2011-04-26から1日間の記事一覧

WGC1 第4章 浮動小数点表現 4.1 浮動小数点演算の概要

C

Write Great Code〈Vol.1〉ハードウェアを知り、ソフトウェアを書く 浮動小数点数値では、必要に応じて基数点(2進少数点)の位置を自由に移動させることができる。 仮数 ↓ ±■.■■e±□□ ↑ 指数 ex 9.88×10^9=9.88e+9 メリット 浮動少数点形式で広範囲の値を表せ…