或る桁数の数値が正確であると言うときの解釈は、理論的な値があって、その表示桁数以降が丸められているとします。桁数の多い数値が表示されていると、素人眼には正確な数を表示しているように見ますが、どこまでが正確かの吟味無しでは、軽蔑されます。お金の計算では、桁数が多くても、最後の桁数までの正確さが要求されています。その計算は、単純なように見えますが、厳格な計算規則がありますので、紛れることはありません。利子の計算、税金の計算などのように、数学的な計算式を使う場合、数の丸めが組み込まれ、或る円単位以下の計算値を切り捨てます。科学技術の分野の計算では、普通には「切り捨て・切り上げ・四捨五入」が混在して使われます。そのため、数値計算をした結果について、どの桁数までが正確であるか、の吟味が必要です。コンピュータで数値計算して表示された桁数の多い数値を、頭から信用するのが、典型的な過ちです。誤差がどの桁位置から出るかの見通しを立てて、その位取りの前で丸めます。実際計算は有効数字を大きく取って行いますが、それをレポートなどに表すときに丸めた数を使います。この扱いは専門別の習慣もありますし、経験が大きく物を言います。
2008.7 橋梁＆都市PROJECT
|