WGC1 第2章数値表現 2.10 固定小数点表現
少数の値は0と1の間にあります。位取り基数点の右に数字を置くことによって、
少数の値を表現します。
2進数の場合は、基数点の右にある各ビットが、0または1に2のマイナスn乗を
掛けた値を表します。したがって、2進数で小数部分を含む値を表現するときには、
その少数部分を2進分数の合計を使って表現します。
たとえば、5.25の値を2進数で表現するには、次の2進値を使います。101.01これは次のようにして10進数に変換します。
1×2^2 + 1×2^0 + 1×2^-2 = 4 + 1 + 0.25 = 5.25固定少数点の2進形式を使うには、2進表現の特定のビットの前に小数点を
暗黙的に配置します。
たとえば、整数部分が8ビット、小数部分が8ビットからなる16ビットの固定小数点形式に変えれば、
次の2進値を使って1.3を近似することができます。1.01001101これを10進形式に変換すると次のようになります。
1 + 0.25 + 0.03125 + 0.01015625 + 0.00390625 = 1.30078125
やべぇ、実は分かってなかった。