WGC1 第4章 浮動小数点表現 4.1 浮動小数点演算の概要
浮動小数点数値では、必要に応じて基数点(2進少数点)の位置を自由に移動させることができる。
仮数 ↓ ±■.■■e±□□ ↑ 指数
- ex
- 9.88×10^9=9.88e+9
- メリット
- 浮動少数点形式で広範囲の値を表せる
- デメリット
- 整数形式ほどたくさんの値を正確}に表せない
- 演算で有効数字に収めるために、丸めるか切り捨てが発生するため精度の不足は計算の正確性に影響する。
浮動小数点数値では、必要に応じて基数点(2進少数点)の位置を自由に移動させることができる。
仮数 ↓ ±■.■■e±□□ ↑ 指数
- ex
- 9.88×10^9=9.88e+9
- メリット
- 浮動少数点形式で広範囲の値を表せる
- デメリット
- 整数形式ほどたくさんの値を正確}に表せない
- 演算で有効数字に収めるために、丸めるか切り捨てが発生するため精度の不足は計算の正確性に影響する。