小さな浮動小数点が小数点の代わりに科学記法で保存される

-2

浮動小数点変数を非常に小さな値で宣言しようとすると、その浮動小数点表記が変更されます。小さな浮動小数点が小数点の代わりに科学記法で保存される

Global $interior = 0.00008972 
MsgBox(4096, "1", $interior) 
$file = FileOpen("Balance.txt", 2) 
FileWrite($file, ""&$interior) 
FileClose($file)

ファイル8.972e-005ではなく、0.00008972を表示して書き込みます。

出典

2017-04-09 Mouad El Bhiri

これらは、同じ正規化された浮動小数点値です。（これを使用して確認してください：https://web2.0calc.com/）出力：推測：特定の形式で表示する場合は、https://www.autoitscript.com/autoit3/docs/functions/StringFormatを参照してください。 .htm？ –

ファイル番号を8.972e-005ではなくファイルに書き込む場合0.00008972 これが問題です –

[関連]（https://stackoverflow.com/questions/30304690/converting-8- 10進数/ 30309114＃30309114）。 – user4157124

StringFormatを使用して、浮動小数点値の精度を指定できます。

Global $interior = 0.00008972 
$interior = StringFormat("%.8f", $interior) 
MsgBox(4096, "1", $interior) 
$file = FileOpen("Balance.txt", 2) 
FileWrite($file, ""&$interior) 
FileClose($file)

出典

2017-04-14 02:12:52 RoastDuck

小さな浮動小数点が小数点の代わりに科学記法で保存される

答えて

関連する問題