可能性の重複:私はこの問題を発見した私のコードと、今日のほとんどの部分で、二重に使用している
Precision of Floating PointJavaの倍精度
double a=0.000001,b=50000;
b=a*b;
System.out.println("double:"+b); // -> double:0.049999999999999996
float a=0.000001f,b=50000;
b=a*b;
System.out.println("float"+b); // -> float0.05
。 これはどのように処理する必要がありますか?
コンテキスト:
double []refValues= {100,75,50,25,15,5,1};
double bInMilliGram=b*1000;
double pickedVal=0;
for(double ref:refValues)
if(ref<=bInMilliGram) {
pickedVal=ref;
break;
}
System.out.println("bInMilliGram:"+bInMilliGram+", pickedVal:"+pickedVal);
O/P: - > bInMilliGram:49.99999999999999、pickedVal:25.0
http://floating-point-gui.de/ – BalusC
これは浮動小数点型の予想される動作です:http://stackoverflow.com/questions/872544/precision-of-floating-point – Piskvor