2012-02-29 15 views
2

私は浮動小数点エラーをチェックするために私のグラフ計算機でテストを実行し、完全かつ完全なランダム性の48時間後、計算機は精度の一桁を失っていなかった。TIのオペレーティングシステムで浮動小数点エラーが発生しないようにコード化されていますか?

TIはこれをどのようにプルしますか?

+1

「完全かつ完全なランダム性」の例を挙げることができますか?何を比較しているのですか? –

+0

これは文字通りの文ではありません。申し訳ありませんが、ここのすべてが文字通り正確に解釈されることを意図しています。私はちょっとした愚かさで質問のポイントを損なうつもりはなかったし、それもしなかった。 – Zyerah

+0

私はあなたが試していたものの例を求めています。あなたの質問にはゼロの情報コンテンツが含まれています。文脈を知らなくても、どうすれば答えることができますか? –

答えて

4

symbolic computationを使用して値を正確にに設定すると、TI-89およびTI-92はエラーを回避します。

実際の浮動小数点計算(89/92の「approx」モード)doにはエラーがあります。 TIの電卓は、保存するよりも少ない数字しか表示しないため、気付くのは難しいでしょう。また、バイナリの代わりに10進数を使用します。

たとえば、「approx」モードでTI-89に式1/3*3-1を入力すると、正確モードで取得する0の代わりに⁻1.ᴇ⁻14という回答が得られます。内部的には以下のように、計算が行われます。

  • 1/3は14桁に丸め、0.33333333333333できます。
  • 3を掛けると0.99999999999999となります。四捨五入のため、1.
  • となり、1を引くと-0.00000000000001または-1e-14となります。
+0

ありがとうございます!いつも不思議だった。 – Zyerah

関連する問題