tan(pi)
は0
ですが、私はtan(math.pi)
をPythonで計算します。回答は-1.2246467991473532e-16
です。なぜ電卓でtan(pi)の答えが異なるのですか?
私は理解できません。
tan(pi)
は0
ですが、私はtan(math.pi)
をPythonで計算します。回答は-1.2246467991473532e-16
です。なぜ電卓でtan(pi)の答えが異なるのですか?
私は理解できません。
Pythonの答えは0〜10桁の有効数字です。
-0.00000000000000012246467991473532
xxxxxxxxxxxyyy
電卓は、内部的に彼らの計算に約13桁の数字を使用する傾向があるが、表示のための唯一の10。いずれにせよ、この値は計算機の基準によって0である。
単精度IEEE浮動小数点数は7桁の精度を持ちます。倍精度の数値は16桁です。 https://en.wikipedia.org/wiki/IEEE_floating_point – duffymo
e-16
は、0に非常に近いことを意味します(pi
は完全ではなかったため、完全ではありません)。電卓では、ゼロに丸められます。
これは、 'math.pi'よりもゼロに近いです。 – kindall
IEEE浮動小数点数の仕組みを理解することなくプログラムすることはできません。 – duffymo