浮動小数点数と小数点の計算

Question

私はPythonには新しく、VBA ExcelからPythonにプログラムを書き直しています。

正確な計算が必要ですが、適切な方法を見つけることができません。

例：

aa = 0.000016 

bb = 0.000016 

cc = aa*bb  # which gives 2.5599999999999996e-12 

a = decimal.Decimal('0.0000016') 

b = decimal.Decimal('0.0000016') 

c = a*b   # which gives 2.56E-12 

が、私が行います

ccc= aa*b 

それは私がすべての小数（ ''）数字と数学を実行するためのいずれかの方法を必要とするエラー

を与えます浮動小数点数をより正確にする（10進数を追加しないで0.0015999996の代わりに0.0016）

Answer 1

floatにTypeErrorをスローするdecimal.Decimalを掛けようとしています。これらを乗算するには、それらのうちの1つをキャストして同じ型であり、結果がどの型であるべきかをPythonが判断できるようにする必要があります。

>>> import decimal 
>>> d = decimal.Decimal("0.000016") # d is a Decimal 
>>> f = 0.000016      # f is a float 
>>> d*f        # can't do this! 
Traceback (most recent call last): 
    File "<stdin>", line 1, in <module> 
TypeError: unsupported operand type(s) for *: 'Decimal' and 'float' 
>>> float(d) * f      # cast d to a float, get a float result 
2.56e-10 
>>> d * decimal.Decimal(f)   # cast f to Decimal, get a Decimal result 
Decimal('2.559999999999999884155166274E-10') 

:)