2016-12-01 8 views

答えて

3

Pythonの答えは0〜10桁の有効数字です。

-0.00000000000000012246467991473532 
xxxxxxxxxxxyyy 

電卓は、内部的に彼らの計算に約13桁の数字を使用する傾向があるが、表示のための唯一の10。いずれにせよ、この値は計算機の基準によって0である。

+0

単精度IEEE浮動小数点数は7桁の精度を持ちます。倍精度の数値は16桁です。 https://en.wikipedia.org/wiki/IEEE_floating_point – duffymo

6

e-16は、0に非常に近いことを意味します(piは完全ではなかったため、完全ではありません)。電卓では、ゼロに丸められます。

関連する問題