- 数値計算の場合、計算結果を利用し易いように丸めるため、二つの方法を使い分けます。
- ①基本的に、計算精度を確保するため、内部的には整数もすべて実数扱いとして数式計算が実行されます。
- ②途中経過の適度な作業区切りの個所で、数値を丸める必要もあります。例えば、材料寸法はmm単位に丸め、それ以降は丸めた数値を使う場合がそうです。意図的に数値を四捨五入で丸めるEXCELの関数はROUNDです。
- 最終的に結果を利用するときには、セルの書式設定の丸めた数で表示するのですが、データとしては生の数を保存しておく必要もあります。例えばトラス形状の計算のように、寸法計算に幾何学原理を応用しているときは、途中で数値を丸めると、それ以降の寸法精度が落ちることがありますので、数値の書式設定の方で表示を制御します。
- 技術関係の数値では、数学的または学術的に正確な数の代わりに、実用的な呼び数を定数扱いにすることが多く行われています。例えば、荷重や許容応力度の数値は整数表示が普通ですので、計算結果で得られた数値は、整数に丸めた値にしておいて、数学的な大小比較の表示に使います。
|