2017-10-12 5 views

答えて

1

コンピュータは計算をバイナリで行うためです。しかし、彼らはまた数字を表すビット数が限られています。おそらくベース2にオーバーフローがあったので、マシンは1ビットまたは何かを切り上げなければならなかった。その後、小数点に変換すると、それを得る.00000000000001

+0

pythonで正しい結果を得る方法はありますか? –

2

http://floating-point-gui.deを見てみたいです。あなたが得ている答えは間違いではなく、すべての精度はあなたが望む程度に依存します。

+0

たぶん、Decimal('12 .72 ')/ 106 * 100を返して、Decimal('12 .00')を返すことがありました。小数点モジュールをインポートする必要があります(小数点のインポート*から) –

関連する問題