奇妙な演算精度

Question

可能性の重複：
Is JavaScript's Math broken?

私はOCamlの中算術精度の泉奇妙な問題を抱えています。見てください：

# 1.1+.2.2;; 
- : float = 3.30000000000000027 

これは、私が行うときに起こります：something.1 + something.2。誰かがそれを試してもらえますか？

Answer 1

これは浮動小数点値を使用する現実です。 1.1は2桁の10進数で正確に表現されますが、この値を表すには無限の2進数が必要です。有限のビット数でバイナリに1.1を格納するので、丸め誤差が発生します。

Answer 2

Ocamlフロート番号は、IEEE754倍精度の数値です。他のプログラミング言語でも同じ動作をします。恐らく、浮動小数点数bignums（Ocamlでは提供していません）が必要です。

コンピュータは、常に有限の精度のネイティブ数値（電卓のような）を持っています。