普通の電卓は、計算に使う桁数の大きさで、７桁、１０桁、１２桁などの種類があります。電卓を使うとき、算盤と同じように、全部のレジスタをクリアする、御破算のキーがあります。画面が0を表示しているときは、データ入力待ちの状態です。数を入力すると、整数が入力されたとみなされ、小数点の位置は右端のままです。数の入力を続けて、表示画面の左端を越え、表示画面の許容桁数以上を入力しようとするとエラーになります。これがオーバーフローです。一方、実数を入力するときは、整数の入力の途中で小数点を入力します。さらに続けて数を入力すると、小数点の位置が左に移動して行きます。許容桁数以上は、入力を受け付けませんが、エラーにはなりません。整数部分の大きな実数の掛け算をすると、整数部分の桁数が許容桁数を超えることがありますが、このときもオーバーフローのエラーになります。つまり、小数点が画面のどこかに無いとエラーになります。一方、実数の数値が１より小さな数で、小数点以下に０が多く詰まっている数同士の掛け算をして、0の数が許容桁数以上になると、エラーの表示にはなりませんが、0だけが残ります。こちらがアンダーフローです。このような数の扱いが、固定小数点法です。
科学書刊株式会社:電子版 「橋梁＆都市 PROJECT: 2015」 |