rounding-error

    11熱

    1答えて

    C＃丸め中点丸め.Tevenと中点丸め.AwayFromZero

    In C＃2小数点以下切り上げ戦略MidpointRounding.ToEvenとMidpointRounding.AwayFromZeroの精度に違いはありますか？私は、丸められた数値の間に均等な分布を保証するか、または丸められた数値を他の丸められた数値と比べて表すための1つの丸め戦略ですか？ MSDNから
    c# rounding-error 2011-09-09

    1熱

    1答えて

    グループ（）でMongoDBの二重丸め誤差

    私はMongoDBを初め、いくつかの基本を試していますが、これは私を驚かせました。私はいくつかのコアコンセプトを誤解していると思っていますが、誰が私にここで何が起こっているのか教えていただけますか？ 公式のMongoDB C＃ドライブを使用して、10,0000個のこれらのドキュメントを「lots」というdbコレクションに挿入しました。 // Insert some test data
    mongodb double rounding-error 2012-03-29

    9熱

    4答えて

    WindowsとsprintfのUnixベースのシステムでの丸めの違い

    UNIXベースのシステムで問題があります。sprintfは正しく値を切り上げません。 88,888,888,888,885.875ザッツ 例えば double tmp = 88888888888885.875 char out[512]; ちょうど目に容易になります。 小さな数字でうまくいくように見えるので、私はそのような具体的で大きな例を挙げています。 Windows上で 私は、次の方法で
    c++ c windows unix rounding-error 2011-01-10

    15熱

    6答えて

    お金の表記にはどのようなクラスを使用しますか？

    ほとんどの丸め誤差を避けるために、お金の表記にどのようなクラスを使用しますか？ Decimalを使用するか、またはnumberを組み込む必要がありますか？ 使用可能な通貨換算をサポートする既存のMoneyクラスがありますか？ 私は避けるべき落とし穴はありますか？
    python currency rounding-error arbitrary-precision precision 2009-09-10

    0熱

    1答えて

    はフロート番号（丸め）エラー

    の影響を低減私たちはいくつかの幾何学的なアルゴリズムを実装するが、フロート数演算誤差の影響が大きい発見されました。このような影響を減らすガイドラインはありますか？ アルゴリズムは、多くの部品が含まれており、非常に複雑です。この例の1つは、線とスプライン（ベジエ曲線の連続）間の交点を計算することです。ベジェの終点に近い線位置では、結果が不安定になります。 おかげ
    floating-point rounding-error 2011-06-20

    5熱

    4答えて

    丸めのミリ秒のRの問題

    Rの下での丸めのミリ秒で、次の問題が発生します。時間が正しいように回避するにはどうすればよいですか？ > options(digits.secs=3) > as.POSIXlt("13:29:56.061", format='%H:%M:%OS', tz='UTC') [1] "2012-06-07 13:29:56.060 UTC" > as.POSIXlt("13:29:56.062",
    r time rounding milliseconds rounding-error 2012-06-07

    3熱

    2答えて

    Javascriptで表記法番号を切り捨てる方法はありますか？

    あなたが知っているように、それはもっとも頼まれた話題の一つなので、丸め誤差（実際にはエラーではありませんが、よく分かっています）に問題があります。代わりに私のポイントを説明するの することは、私は私が持っていると私は得ることができるようにしたい入力可能なものを数字の例をあげる： のは var a = 15 * 1e-9; alert(a) 出力 1.5000000000000002e-8
    javascript floating-point rounding scientific-notation rounding-error 2011-01-28

    4熱

    3答えて

    Javaで領域を結合するときに不正確な丸め？

    私はAreasとJavaで作業しています。 私のテストプログラムは3つのランダムな三角形を描画し、それらを組み合わせて1つ以上のポリゴンを形成します。 Areasの後に.add()がある場合は、PathIteratorを使用してエッジをトレースします。 ただし、Areaのオブジェクトは、必要に応じて結合されないことがあります。最後に表示された画像のように、余分なエッジが描画されます。 私は問題は（
    java geometry java-2d area rounding-error 2012-03-02

    2熱

    4答えて

    DateTimeを30分に丸めるときに何分もなく時間を処理する

    私は、Google CalendarとOutlookがすべての時刻エントリが30分​​離れている時間選択を処理する方法をエミュレートしようとしています。私はほとんどすべてのことを1つのことを除いて機能テストで処理しています。私の問題は、現在の日付を常に最長30分に丸める方法を理解できないことです。これは、と午前8時56分午前を言う（私はこれは午前12:30を返すことを期待する）午前12時00分を除
    c# datetime rounding rounding-error 2012-01-18

    3熱

    1答えて

    関数のR＆Cバージョンの結果が異なる - 丸め誤差または演算子エラー？

    私はCで書き直したRコードのブロックを持っています.2つのバージョンは異なる結果を提供します。これは、Rレベルでの丸め問題、つまりCで行われているすべての処理と一度だけ発生する丸め処理とは対照的に、複合丸め問題を作成する複数の演算が実行されているためです。私はここで過度に楽観的であると思うし、私は何かが欠けているかどうかを確認するためにいくつかの目のセットを望んでいた、そしてそれは実際に私の最後に
    c r rounding-error 2011-10-18
最新の質問