図18.3 実数を丸めるときの範囲
 技術計算で行う10進数の丸めは、或る桁数の位置で四捨五入をして整数化、つまり、浮動小数点数とするのが標準です。この方法は、端数処理をした正負混ざった数値を積算するときの誤差が最小になります。負の数を丸めるときは、負号を考えない数値で四捨五入をしておいて負の符号を付けるのが正解です。丸めとその結果を理解するには、座標幾何学的に考えるのが判り易いと思います。連続的に並んでいる座標軸上の位置を、飛び飛びの座標位置（離散値）で扱い、その区間を座標位置の数で扱うことです（図18.3）。四捨五入は、座標区間の中央から左右に振り分けます。切り捨ては、正の数は左位置に寄せ、負の数は右位置に寄せます。そうすると、０になる領域の幅が２倍になりますので、積算処理をすると誤差が負の側に振れます。切り上げは、０になる数が少なくなる傾向が現れます。材料の積算の場合、寸法数値は切り上げを使わないと寸法不足を起こす可能性があります。お金の計算の場合、利息や税金の計算では切り捨てを使います。そうすると、例えば96円の定価の品物に消費税率５％を加算すると、丁度100円の小売価格になります。まとめて10個買いたいとして、定価の10倍、960円を元に税率を加算すると、8円高くなります。端数処理次第で結果が変るのでは混乱しますので、経理処理は、厳格な計算規則を使います。
2009.6 橋梁＆都市PROJECT |