2012-04-10 7 views
0

可能性の重複:
How is floating point stored? When does it matter?窓計算機を使用すると、sqrt(4)-2が-8.1648465955514287168521180122928e-39となるのはなぜですか?

私Win7のx64の上で内蔵の電卓を使用するには、私は数-8.1648465955514287168521180122928e-39計算sqrt(4)-2を取得します。

私は結果があなたが機会にそれらを引くために行くとき、いくつかのエラーは、浮動小数点値であります0

+5

標準的な四捨五入エラー... – Mysticial

+0

'sqrt(4)-2'では何を丸めますか? –

+0

sqrt(4)がどのように評価されると思いますか? –

答えて

1

ことを期待します。 0または0に近い表現を得ることができます(10^-39のかなり近く)。

詳細については、WikipediaのFractions in Binaryを参照してください。

+0

ありがとうございます。分数がどのようにバイナリで表現されているのか分かりませんでした。この[link](http://en.wikipedia.org/wiki/IEEE_754-1985)も役に立ちました。 –

関連する問題