読者です 読者をやめる 読者になる 読者になる

WGC1 第2章数値表現 2.10 固定小数点表現

C

少数の値は0と1の間にあります。位取り基数点の右に数字を置くことによって、
少数の値を表現します。
2進数の場合は、基数点の右にある各ビットが、0または1に2のマイナスn乗を
掛けた値を表します。したがって、2進数で小数部分を含む値を表現するときには、
その少数部分を2進分数の合計を使って表現します。
たとえば、5.25の値を2進数で表現するには、次の2進値を使います。

  101.01

これは次のようにして10進数に変換します。

  1×2^2 + 1×2^0 + 1×2^-2 = 4 + 1 + 0.25 = 5.25

固定少数点の2進形式を使うには、2進表現の特定のビットの前に小数点を
暗黙的に配置します。

たとえば、整数部分が8ビット、小数部分が8ビットからなる16ビットの固定小数点形式に変えれば、
次の2進値を使って1.3を近似することができます。

  1.01001101

これを10進形式に変換すると次のようになります。

  1 + 0.25 + 0.03125 + 0.01015625  + 0.00390625 = 1.30078125

やべぇ、実は分かってなかった。














Randall Hyde、鵜飼 文敏、まつもと ゆきひろ、後藤 正徳、トップスタジオ






広告を非表示にする