2011-04-19から1日間の記事一覧

WGC1 第2章数値表現 2.10 固定小数点表現

C

Write Great Code〈Vol.1〉ハードウェアを知り、ソフトウェアを書く 少数の値は0と1の間にあります。位取り基数点の右に数字を置くことによって、 少数の値を表現します。 2進数の場合は、基数点の右にある各ビットが、0または1に2のマイナスn乗を 掛けた値…