2016-08-22 10 views
-3

例えば二重の値0.000034があり、二重の値3.40E-5が必要です(必要な二番目の値は文字列ではなく二重の値であることに注意してください)。私が今までに見つけたすべての結果は、意図していない文字列形式に値を変換します。私は私のチャートプログラムのダブルスのリストを持っています。二重値の丸め指数

Image of the resulted Chart

私は、画像を追加しました。ここでは、黄色の行が0(パーセンテージ)を示していますが、ここに表示するのは非常に小さい数値です。しかし、意図しない0として表示されます。

ありがとうございます。

+1

「3.40E-5」は純粋に「ダブル」の文字列表現です。 –

+0

グラフの値をどうしたいですか? –

+0

私は投票しませんでしたが、投稿には単に「質問」がありません –

答えて

3

0.000034と3.40e-5は、同じ変数を同じ値で宣言するための2つの異なる方法です。丸めとは関係ありません。値を文字列として表す場合にのみ、 "E"が表示されます。したがって、以下のように2つの変数を宣言すると、同じ値になります。

double value1 = 0.000034; 
double value2 = 3.40e-5; 
+0

実際にこれを行うことができ、それは失敗しません: 'Debug.Assert(0.000034 == 3.40e-5);' –

+0

"文字列として値を表すときに" E " 2倍を2より小数点以下に丸めても、私はそれを見ます。 – user6742640

+0

あなたはそれを見ますか?ビジュアルスタジオデバッガは、文字列表現の値も表示します。実際の値はここで説明するようにメモリに保存されます:https://en.wikipedia.org/wiki/Double-precision_floating-point_format(3.40e-5).ToString( "F15")のようなものを書くと、二倍変数で15の小数を得る – dlxeon