パソコンは、道具として必需品になりました、大容量の内部・外部メモリが使えることが常識です。データベースへの利用を理解するには、計算機械開発の歴史について、一通り復習しておく必要があります。数値計算に使う道具は、基本的に整数しか扱いません。小数点を含む実数であっても、小数点位置を便宜的に決めていて、実際は整数計算をします。そろばん（算盤）を使うとき、桁並びのどこかを小数点位置に仮定するのがそうです。数値並びで、計算桁数の範囲の外に小数点を決めなければならないときは、元の数値の単位系を変えます。電卓（電子式卓上計算機）は、数の表示画面の桁数が、10桁または 12桁が普通です。この桁数並びの範囲に小数点位置が無い数は、表示できません。二つの整数の掛け算をするとき、二数の有効桁数の和が、表示できる桁数を越えるときは、エラーになります。小数点を含む実数では、見掛け上、大きな桁数になる計算ができます。このときは、小数点位置が画面上に残るときはエラーになりません。整数部分の桁数が表示桁数を越えるときはオーバーフロー（桁溢れ）のエラーと言います。また、小数点数以下に０が並ぶ小さな数が計算されると、表示できる有効数字の数が減っていき（桁落ち）、それを越えると０しか表示しません。これをアンダーフローと言います。少し高級な関数電卓は、浮動小数点数で表示してくれます。小数点位置が画面から外れる数は、小数点位置を左端に移し、補助的に10の何乗になるかの指数表示を添える表し方をします。
科学書刊株式会社:電子版 「橋梁＆都市 PROJECT: 2011」 |