JavaでBigDecimalとして500を処理しました。 そして私は{・UnscaledValue = 5 ・Scale = -2 ・Precision = 0}
なぜ正確さが0であるのか分かりません。 私はそれが1かもしれないと思いました。 誰も説明できますか?Javaで大きな小数点精度ゼロが意味するもの
答えて
最も簡単な方法で構築さ500のための精度は、3
scala> new java.math.BigDecimal("500").precision()
res0: Int = 3
あなたが別の何かをした場合は、コードを表示する必要がありますが、私たちはあなたが何をしたか知っています。 the documentationから
precision
の意味:
精度は、スケーリングされていない値の桁数です。ゼロ値の精度は1です。
スケールが-2でunscaledValueが5の場合、明らかに5 * 10^2として格納されます。それで精度は0でなく1でなければなりません。 –
私も3を得ました。私は 'new BigDecimal(500.0)'も試しましたが、プレシジョンはまだ3でスケール0です。 OPは0の精度を得る可能性があります。 –
@ OleV.V .:浮動小数点型(double)からBigDecimalをインスタンス化しないでください。しかし、あなたが 'x = new BigDecimal(" 5e2 ")'や 'x = new BigDecimal(" 5 ")。movePointRight(2);'のようなものや単純なカルキュレーションから ' 「5」の「unscaledValue」および「-2」の「scale」を含む。だから唯一の問題は、なぜ精度が「0」なのかです。定義上、 '1 'でなければなりません。 –
- 1. Pythonの書式付き任意精度小数点の印刷
- 2. 浮動小数点精度
- 3. C#の任意の精度の小数点?
- 4. 浮動小数点数の精度
- 5. 範囲の縮小単精度浮動小数点の精度が悪い
- 6. 異なるシステムでの浮動小数点数の精度
- 7. ブラウザの小数点精度の配置
- 8. Swiftの小数点精度の問題
- 9. 浮動小数点型の精度printf
- 10. MongoDB浮動小数点値の精度?
- 11. エンティティフレームワーク6の小数点精度
- 12. (ゼロではない)倍精度浮動小数点数の最小ステップサイズの取得
- 13. 浮動小数点精度形式
- 14. 倍精度浮動小数点型+ Eigen
- 15. 単精度浮動小数点表現から半精度浮動小数点数への変換
- 16. 2つの倍精度浮動小数点数を掛けた結果はゼロです。なぜですか?
- 17. Swift 3で浮動小数点精度が失われる
- 18. Ruby on Railsの大規模小数点精度を設定する
- 19. 倍精度浮動小数点数の浮動小数点コードを読む
- 20. 倍精度:大きな数の乗算
- 21. Javaで^(キャレット)が意味するもの
- 22. 倍精度に影響する小数点以下の桁数
- 23. 浮動小数点数の精度を設定する
- 24. Javaの整数の先行ゼロなしの小数点表現
- 25. 引数は倍精度ですが浮動小数点が必要ですか?
- 26. 精度、精度、F1などの2つの数値はどういう意味ですか?
- 27. 浮動小数点数の精度を高める
- 28. C#DateTime:倍精度浮動小数点型時間の倍精度化
- 29. 小数点型のフォーマットが、保持精度
- 30. Java HashMapコピーコンストラクタが浮動小数点精度に影響するのはなぜですか?
コードplzを表示します。 – passion
知っておく必要がある理由があるのですか、それとも好奇心が強いのですか(私もそうでしょう)? –
コードなしで、あなたが求めているものが不明なので、この質問を閉じるために投票しています。これは良い質問かもしれませんが、コードが必要です。 –