設計実務では、形状の寸法を図面に書くときは、物差しを使って確かめられる数を扱います。数値計算を進めるとき、計算精度を落とさないように有効数字の大きな実数を使います。例えば、円周率は常識的に3.14とすれば充分ですが、計算精度を上げるには、コンピュータが扱える最大精度を持った有効数字を持った数を内部的に使います。32ビット長(4バイト)を使う実数は、約７桁です。コンピュータが使えなかった頃は、三角関数は6〜7桁の数表を使いました。計算を進めると精度が落ちてきますので、レポートなどにまとめるときは実践的には5桁以内で表記を揃えました。幾何にかかわる計算では、数値計算上の精度を勘案することに加えて、角度や距離の精度を別に決めておきます。例えば、点の位置が直線上に在るか平面上に在るかは、或る許容精度を決めておいて、点と直線、または点と平面間の距離が、この精度以内であることで判定します。二直線または二平面が平行であることを判定するには、二直線間または二平面間の角度について許容精度を決めておきます。これらの精度の数値は、その精度の位取りの位置で計算結果を丸めて、実数であっても擬似的に整数扱いをすることです。幾何モデルを扱うときは、そのモデルが置かれている部分的な世界で寸法の大枠を考えます。我々の居住空間でならば、最小単位としてmmを考え、100m区画程度を最大寸法枠とすると、数値は有効数字で最大5桁になります。相対的な数値の精度は10-5です。角度では、100m先で１mmずれない視角は、約10秒です。GBASICでは、この精度はデフォルトとして設定しますが、変更もできるようになっています。コンピュータ内部では、32ビットのレジスタを使うCPUが普及しましたので、倍精度実数(64ビット：8バイト)が普通に使えるようになりました。この数の有効数字は、10進数換算で約15桁もあります。
2008.2 橋梁＆都市PROJECT |