ソフトウェア開発技術者 H17年秋 午前 【問3】
けた落ちによる誤差の説明として、適切なものはどれか。
ア | 指定した有効桁数で演算結果を表すために、切捨て,切上げ、四捨五入などで下位の桁を削除することによって発生する誤差 |
イ | 絶対値の非常に大きな数値と小さな数値の足し算や引き算を行ったとき、小さい数値が計算結果に反映されないために発生する誤差 |
ウ | 絶対値のほぼ等しい二つの数値の絶対値の差を求めたとき、有効桁が減るために発生する誤差 |
エ | 浮動小数点表示された数値の計算処理を有限項で打ち切ったために発生する誤差 |
みんなの正解率: 63% (154人のうち97人が正解)
キーワード: | けた落ち 浮動小数点 |
ソフトウェア開発技術者 H17年秋の全キーワードをみる
解答と解説
解答: | ウ |
解説: | けた落ち 値のほぼ等しい二つの数値の差を求めたとき、有効けた数が減ることによって発生する誤差。 |
キーワード: | けた落ち 浮動小数点 |
みんなの正解率: 63% (154人のうち97人が正解) |
|
スポンサードリンク
この問題のキーワード
けた落ち
浮動小数点
ソフトウェア開発技術者 H17年秋の全キーワードをみる
H17年秋 設問一覧
ソフトウェア開発技術者の過去年度