2012-06-13 12 views
6
property name="poiLat" length="60" ormtype="big_decimal" persistent=true precision="16" scale="14" default="0" hint=""; 

精度やスケールが正しく分かりません。上記のプロパティを使用すると、なぜ '1'がエラーを出し、 '2'が受け入れられるのでしょうか?私はそれが '1' を受け入れるようにプロパティの精度と位取りの理解

1)-118.27 =エラー

2)-18.27 = OK

答えて

7

スケールは、小数点以下のの桁数を指しために何を変更する必要があります。あなたは精度16とスケール14を持っている場合は、あなただけのの2桁は、小数点以下のように

18.123456789= ok 
118.27 = error 

てみを残していることができます。

precision="16" scale="13" 

118.1234567890123を許可しますが、それはあります小数点以下の桁数が多い。どれくらい本当に必要ですか?

precision="16" scale="4" 

123456789012.1234

+0

が可能になりますが、私は今理解お願いします – Prometheus

関連する問題