可能性の重複:
How is floating point stored? When does it matter?窓計算機を使用すると、sqrt(4)-2が-8.1648465955514287168521180122928e-39となるのはなぜですか?
私Win7のx64の上で内蔵の電卓を使用するには、私は数-8.1648465955514287168521180122928e-39
計算sqrt(4)-2
を取得します。
私は結果があなたが機会にそれらを引くために行くとき、いくつかのエラーは、浮動小数点値であります0
標準的な四捨五入エラー... – Mysticial
'sqrt(4)-2'では何を丸めますか? –
sqrt(4)がどのように評価されると思いますか? –