2011-05-14から1日間の記事一覧

WGC1 第4章 浮動小数点表現 4.3 正規化と非正規化値

C

Write Great Code〈Vol.1〉ハードウェアを知り、ソフトウェアを書く 浮動小数点の計算時に最大限の精度を維持するために、ほんとどの計算では 正規化された値を使う 正規化された浮動小数点では、仮数のHOビットに1が格納されている正規化とは、 仮数のHOビ…