あたりhttp://msdn.microsoft.com/en-us/library/ms173773.aspx浮動小数点データ型の正確な精度は15桁ですか?
フロートは約です。データ・タイプ。
しかし同じ記事では、floatの精度は15桁であると言われています。
正確には15桁の精度ですか?
あたりhttp://msdn.microsoft.com/en-us/library/ms173773.aspx浮動小数点データ型の正確な精度は15桁ですか?
フロートは約です。データ・タイプ。
しかし同じ記事では、floatの精度は15桁であると言われています。
正確には15桁の精度ですか?
これは、最初の15桁がほぼ正しいことを意味します。 IEEE 754のおかげで、正確に表すことのできない数字がたくさんありますが、最初の15桁が非常に近いことが確かめられます。
数字は15桁の精度で正確です。つまり、何かを計算して結果をフロートとして保存すると、最初の15桁が正しい結果であることがわかります。その後、彼らはそうではないかもしれません。
また、floatのselectクエリは、格納された数値が正確である場合は15桁を返します。 – blindguy