読者です 読者をやめる 読者になる 読者になる

WGC1 第4章 浮動小数点表現 4.4 丸め

C



  • ガードビット
  • 丸め
    • システムが余分なガードビットを操作して、保持している
    • ビットを変化させる仕組みを丸めと呼ぶ。
  • 4つの丸めモード
    • 切り捨て
    • 大きい値への丸め
    • 小さい値への丸め
    • 最近値への丸め

うん、丸め誤差によって、計算結果が変わってくるんだよね。







Randall Hyde、鵜飼 文敏、まつもと ゆきひろ、後藤 正徳、トップスタジオ






広告を非表示にする