私は浮動小数点数として4バイトのデータを取得します。浮動小数点数に変換すると、結果は "7.346952E-40"ですが、この数値をユーザー。この数をMath.Round()関数で丸めると、結果は "0.000"になります。この浮動小数点数を次のような単純な浮動小数点数に丸めるにはどうすればいいですか?123.456?Cの浮動小数点数を丸める#
0
A
答えて
3
数値7.346952E-40は実際には0.0000000000000000000000000000000000000007346952なので、小数点第4位まで四捨五入すると0.0000が得られます。
-1
だけConsole.WriteLineを(xxx.ToString( "0.000"))
0
7.346952E-40(×10^-40 7.346952)が0の実際には本当に近いです、あなたの丸め関数は正しいです。
また、通貨のように有効桁数または一定の長さの数字に応じて番号を表示するには、number.ToString( "0.000")またはnumber.ToString( "#。###" 。
math.roundが最も近い整数に丸められるからです。冗談ですか?他に何を表示したいですか?あなたは7.346952E-40と何が等しいか知っていますか?信じられないほど小さな数字です。 – jdmdevdotnet