2011-05-15から1日間の記事一覧

WGC1 第4章 浮動小数点表現 4.4 丸め

C

Write Great Code〈Vol.1〉ハードウェアを知り、ソフトウェアを書く ガードビット 丸め システムが余分なガードビットを操作して、保持している ビットを変化させる仕組みを丸めと呼ぶ。 4つの丸めモード 切り捨て 大きい値への丸め 小さい値への丸め 最近値…