問4 |
浮動小数点形式で表現された数値の演算結果における丸め誤差の説明はどれか。 |
|
ア |
演算結果がコンピュータの扱える最大値を超えることによって生じる誤差である。 |
イ |
数表現のけた数に限度があるので、最下位けたより小さい部分について四捨五入や切り上げ、切捨てを行うことによって生じる誤差。 |
ウ |
乗除算において、指数部が小さいほうの数値の仮数部の下位部分が失われることによって生じる誤差である。 |
エ |
絶対値がほぼ等しい数値の加減算において、上位の有効数字が失われることによって生じる誤差である。 |
|
|
解説 |
まず、それぞれの誤差について下にまとめます。
アンダーフロー:演算結果が、扱える数値の最小値を超えることによって生じる誤差
オーバーフロー:演算結果が、扱える数値の最大値を超えることによって生じる誤差
打切り誤差:数表現のけた数に限度があるときに、計算を途中でやめることで起きる誤差
丸め誤差:数表現のけた数に限度があるとき、最小のけたより小さい部分について四捨五入、切上げ又は切捨てを行うことによって生じる誤差
けた落ち:値がほぼ等しい浮動小数点同士の減算において、有効けた数が大幅に減ってしまうことで起きる誤差
情報落ち:浮動小数点の加算において、一方の数値の下位のけたが欠落することで起きる誤差
情報落ちは絶対値の小さいものから計算することで回避できます。
けた落ちは式を変形するなどで回避することができます。
そのほかは、誤差が許容できるほどに大きな計算桁数を準備することで軽減できます。 |
|