読者です 読者をやめる 読者になる 読者になる

WGC1 第4章 浮動小数点表現 4.1 浮動小数点演算の概要

C

浮動小数点数値では、必要に応じて基数点(2進少数点)の位置を自由に移動させることができる。

    仮数
    ↓
  ±■.■■e±□□
              ↑
              指数
  • ex
    • 9.88×10^9=9.88e+9
  • メリット
    • 浮動少数点形式で広範囲の値を表せる
  • デメリット
    • 整数形式ほどたくさんの値を正確}に表せない
    • 演算で有効数字に収めるために、丸める切り捨てが発生するため精度の不足は計算の正確性に影響する。

規則

  • 計算順序が誤差に影響を与える場合がある
  • 同じ符号の数値同士で減算を行う、または異なる符合の数値同士で加算を行うときは、結果が浮動小数点形式の有効精度を下回る可能性がある(桁落ち)
  • 加算、減算、乗算、除算を使った一連の計算を行うときは、乗算と除算の演算を先に行うようにする。
  • 一連の数値を乗算および除算するときは、相対的に同じ大きさの数値を乗算および除算するようにする(オーバーフロー、アンダーフローをの可能性を低くするため)
  • 浮動小数点同士が等価かどうかを比較するときは、2つの値の差が計算時に起こりうる誤差の範囲内に収まるかどうかを調べる







Randall Hyde、鵜飼 文敏、まつもと ゆきひろ、後藤 正徳、トップスタジオ






広告を非表示にする