目次ページ 前ページ 次ページ |
3. 数を表す方法 |
3.4 丸めの方法と応用 |
3.4.1 数字並びの前にある０を考えない |
数を数字並びで書き表すとき、数の精度の指標が有効桁数です。整数表記は0を頭に書きません。実数では、絶対値が１より小さな数は、小数点以下に0が詰まることがありますが、この0も有効桁数に含ませません。例えば、無理数の円周率を数値計算に使うとき、3.14とすると３桁、3.1416とすると５桁の有効数字を持たせると言い、最後の桁に±0.5の誤差がある、と判断して使います。数字並びの後ろに0が続くとき、どこまでの0が数の精度に関係を持つか（数として有効）の判断が必要です。整数では、暗黙の約束では、すべての桁が有効であると判断します。実数では、数の精度を示す必要がある0は残します。例えば、3.0、3.00、3.000は、有効数字の桁数が、２，３，４桁であることを示しています。数値計算では、できるだけ、数の精度が保障できる桁数に整えます。その具体的な処理が丸めです。実用する方法は、切り上げ(round up)、切り捨て(round down)、四捨五入(round off)の３通りです。
科学書刊株式会社:電子版 「橋梁＆都市 PROJECT: 2015」 |
前ページ 次ページ |