precision

0熱

5答えて

コードがありますが、わかりません。私は精度が非常に重要なアプリケーションを開発しています。 .NETにとって重要ではないのはなぜですか？知りません。 double value = 3.5; MessageBox.Show((value + 1 * Math.Pow(10, -20)).ToString()); が、メッセージボックスを示しています。3.5 、私を助けていただき、ありがとうござ

3熱

8答えて

なぜ1.0f + 0.0000000171785715fが1fを返しますか？

私のコードでバグを見つけようとした1時間後、私はついにその理由を見つけました。私は1fに非常に小さなフロートを追加しようとしていましたが、何も起こっていませんでした。なぜ私が小さなフロートを0fに追加することが完全に機能したのかを理解しようとしていました。どうしてですか？これは「大きさのオーダー」と関係がありますか？この問題を回避する方法はありますか？ありがとうございます。編集：倍精度ま

5熱

5答えて

どのように右の精度で文字列にdouble値を移入するために「％Fを」使用する

私はこのようなsprintf使用してdouble値を持つ文字列を移入しようとしています： sprintf(S, "%f", val); しかし、精度があります小数点第6位まで切り捨てられます。私は精度のために小数点以下10桁が必要です。どのように達成できますか？何をしたい

7熱

3答えて

Pythonで分数の小数部分を繰り返す方法はありますか？

私はPythonの小数モジュールを使って分数を扱っています。私は分数の繰り返し部分だけを取得したいと思います。例えば、私が1/3を持っていたら3を得たいと思っています。もし1/7があれば142857を得たいと思います。これを行う標準的な関数はありますか？

2熱

9答えて

任意の桁精度の.NET Frameworkライブラリ

私はこの質問を復活させ、より具体的にしています。任意の精度の数値をサポートする.NET Frameworkライブラリがありますか？

3熱

4答えて

Windowsのcでスリープ機能。より精度の高い関数が存在するか？

Sleep（）以外の、cでウインドウで使用できるより良いスリープ関数を知っている人がいるのだろうかと疑問に思っていました。これは、ミリ秒の入力を受け取り、入力が最小時間経過したことを保証します。私は1ミリ秒で渡していますが、実際には15-16ミリ秒の遅延があります。特定のスリープ時間を正確に設定する方法はありますか？

2熱

5答えて

ラウンドオーダーの計算

単純なプロジェクトでは、大きな数字（4294967123など）を読みやすくする必要があるため、接頭辞（4294967123 - > 4.29G、12345 - > 12.34Kなど）の最初の桁のみを書いています。。）はコードは（簡体字）次のようになります。 const char* postfixes=" KMGT"; char postfix(unsigned int x) {

8熱

4答えて

MATLAB - フロアの質問

私はMATLABの初心者です。ここに問題があります： >> a = floor(7/2.5) a = 2.00 >> b = rem(7,2.5) b = 2.00 >> c = floor(b/2) c = 0 cは1でなければなりません。なぜそれは0ですか？次のようにB = 2が直接入力されたときに異なる：切り捨て誤差：二