或る点の座標が、或る直線の上に載っているか外れているかを判定するとき、直線と線分の微小距離を計算して、それをしきい値と比較します。この条件を考えに入れないと、例えば３点が一直線上に並ぶとする幾何学的定理があって、それを利用する数値計算をプログラムしたとします。コンピュータの単精度実数は約7桁、倍精度実数は約15桁の精度をもちますので、コンピュータで実数計算した値を生で比較すると、二数が等しくなる条件はめったに成立しません。そこで、しきい値よりも小さくなる有効数字分を切り捨てます。例えば閾値を0.001とすると、元の数をしきい値で割った値を整数で求め、これに閾値を乗じて実数に戻します。これは、小数点以下３桁目までを考えた擬似的な整数扱いをすることです。丸めた数値は、大小比較のときだけに使います。それを後の計算に使うと全体の計算精度が落ちることがあるからです。しきい値を実践的に決めるときは、計算で扱う元の数は、有効数字にして5桁が普通です。これは数値の相対精度として10-5を考えることです。幾何モデルの寸法をどの数値範囲で扱うかによって、しきい値を決める必要があります。仮にモデルの寸法をセンチ単位で最大２桁を考えると、10-5の相対精度であれば、しきい値を0.001(1/100ミリ)にします。印刷の精度を言うとき、レーザプリンタで高精度の印刷をするとき、このしきい値は2500-DPIに相当します。14型のモニタの解像度は640×480が最小ですが、これは約50-DPIのレベルです。印刷活字のポイント数１インチ（25.4mm）を72ポイントとしますので、通常のプリンタは約300-DPIの解像度で使います。
2008.7 橋梁＆都市PROJECT
|