0
私は数値型変数に掛けるしようとしています：コードは次のようなものです::ActionScript 3.0の数値型乗算エラー..
trace(6.60*6);// !=39.6
var a:Number=6.6;
var b:Number=6;
trace(a*b);// !=39.6
それはアクションスクリプト3.0で39.6と等しくない..です代わり示します39.5999999994 ...
A
答えて
0
これは浮動小数点演算のIEEE標準の製品です。必要であれば本当の理由は、この論文をチェックしてください。
http://docs.oracle.com/cd/E19957-01/806-3568/ncg_goldberg.html
これのほとんどは、ActionScriptのJavaScriptのルーツから来ている、とJavascriptですべてが浮動小数点です。 intと浮動小数点数の計算には違いはないので、他の言語では奇妙なエラーが発生しますが、浮動小数点数を常に使用するとします。
+0
みなさんありがとうございます。:) – warelord
0
私は、ActionScriptの精度に丸めの完全に「きれいな感じ」道の頭部は、次の最高のものは、ここで見つけることができませんでしました：
実際関連する問題
、今私が考えていることそれは '' a * b == 39.6'の言語ではないと思います。 –