浮動小数点

＜【参考】浮動小数点について紹介します＞

浮動小数点の計算で困っていましたので記載します。

浮動小数点の計算は、指数部を大きい方に合わせ計算します。

例）1×2^-4＋1×2^-3

=0．1×2^-3＋1×2^-3

=1．1×2^-3

●FPU（浮動小数点演算装置）：浮動小数点の演算を高速に実行するユニット。

●計算誤差

・桁落ち：値がほぼ等しい値同士の加減算などで生じる。

・情報落ち：絶対値の非常に大きな数字と小さな数字の加減算を行ったとき、小さな数字が計算に反映されない誤差。

・丸め誤差：指定された有効桁数で演算結果を表示する為に、切り捨て、四捨五入等で下位の桁を削除する事で発生する誤差。

・打ち切り誤差：無限桁数で表示される数値を有限桁数で打ち切ったときに発生する誤差。

ページのトップへ▲
ノウハウへ