目次ページ   前ページ  次ページ

2. 数学と算術との対立

2.3 数の丸めを理解する


2.3.1 丸めの方法は三通り

 第2.1.3節で触れた円周率のように、数学理論にこだわる人は、無理数など、桁数の多くなる数を数字に直して表すことを嫌います。これらの数は、どうしても有限個数の数字並びでしか表示できませんので、理論上は近似値と見る潔癖さがあるためです。数値計算を必要とする場面では、計算精度を気にすると、なるべく桁数の多い数字を扱います。桁数の大きな数を、有限の桁数に詰めて表すことを、数の丸め(rounding)と言い、実用技術です。どの桁位置で丸めるかは、実際問題ごとに決めます。丸めの手続きには、幾つかの約束を使います。十進数では、普通、切り上げ(round up)、切り捨て(round down)、四捨五入(round)の3種類を使い分けます。JISの丸めは、四捨五入の一種です。文字表記で最後の桁の次が5で終わるとき、表示の最後の桁が偶数になるように、切り上げか切り捨てかを選びます。これは、例えば寸法表示の数を決めるときに使う方法ですが、表示される数は、呼び数であると解釈します。お金の計算では切り捨てが常識です。この約束は見掛け以上に厳格ですので、別の人が計算して計算結果の比較ができて、正誤を正確に判断できます。数の丸めは、数の正負の区別をしないで、字面(じずら)の数で処理します。商品の値段を扱うと、売る側と買う側とは相対的な関係ですが、数の扱いでは正負の区別をしています。したがって、丸めの結果が数の正負と関係しないように処理するのです。

前ページ  次ページ