2011-05-15 WGC1 第4章 浮動小数点表現 4.4 丸め C Write Great Code〈Vol.1〉ハードウェアを知り、ソフトウェアを書く ガードビット 丸め システムが余分なガードビットを操作して、保持している ビットを変化させる仕組みを丸めと呼ぶ。 4つの丸めモード 切り捨て 大きい値への丸め 小さい値への丸め 最近値への丸め うん、丸め誤差によって、計算結果が変わってくるんだよね。 Write Great Code〈Vol.1〉ハードウェアを知り、ソフトウェアを書く Randall Hyde、鵜飼 文敏、まつもと ゆきひろ、後藤 正徳、トップスタジオ Amazon.co.jp で詳細を見る
