- 1.0 を 10.0 で繰り返し割っていくと何回目で誤差が現れるか
>使う電卓で結果は異なります。テキスト中の問のすぐ上の電卓で試してください
- 1.の結果に割った回数分 10.0 を掛けていっても 1.0 には戻らない。どうなるか
>戻してみた結果を報告して下さい。
- 1+(1e-15) の計算結果はどうなるか。1+(1e-16), 1+(1e-17) ではどうか
>電卓のx欄に1を、y欄に1e-15や1e-16、1e-17 を入力して足し算した結果を報告して下さい
またこのような結果がでる理由を考えよ。
>理由はこの問の下の説明を参考に考えて下さい
|