浮動小数点数をfixed point integerQ16.16int(数値* 0x10000)と符号化するとき、精度を失うことなく表現できる浮動小数点の範囲はどのくらいですか?浮動小数点数の範囲はQ16.16整数で表されますか?
0
A
答えて
2
範囲は、32767〜-32768に最大で小数部をプラスまたはマイナスします。したがって
32767 + 65535/65536 to - 32768 - 65535/65536です。
ただし、精度は範囲とは異なります。あなたは31ビットの精度を持っています。
1
もしQ15.16を表すために、2の補数の32ビットの整数を使用していると仮定すると、整数の範囲は[2^31-1, -2^31]
又は[2147483647, -2147483648]
であり、スケールは2^-16
又は1/65536
あります。したがって、固定小数点値の範囲は[2147483647/65536, -2147483648/65536]
または約[32767.99998, -32768]
です。
関連する問題
- 1. 浮動小数点数の範囲
- 2. 浮動小数点数は浮動小数点数ですか?
- 3. このコードでの範囲と浮動小数点数のインターミキシング
- 4. 浮動小数点数として正確に表現できる整数の範囲
- 5. [0-255]整数の範囲を[0.0-1.0]浮動小数点範囲に変換する
- 6. 浮動小数点型の浮動小数点数を使用している浮動小数点数は、浮動小数点数の上位16桁です。
- 7. 浮動小数点の範囲内で垂直にテキストを整列
- 8. 小さな範囲を別の小さな範囲で割ったときの浮動小数点エラー
- 9. 浮動小数点数浮動小数点数値
- 10. 整数/整数で浮動小数点を得る方法
- 11. 変数の浮動小数点浮動小数点
- 12. は、浮動小数点数
- 13. 2桁の整数または浮動小数点数の正規表現
- 14. 浮動小数点数からの整数の解析
- 15. 浮動小数点divの整列
- 16. アダプターは浮動小数点で表示されます
- 17. 小数点浮動小数点(C++)
- 18. CSSが浮動小数点浮動小数点を返す
- 19. Rubyの整数と小数点に浮動小数点を分割する
- 20. 浮動小数点値と浮動小数点値の比較
- 21. MySqlの浮動小数点浮動小数点データ型
- 22. jQuery animateNumber - 浮動小数点浮動小数点の方法
- 23. ロゴ(浮動小数点:左)&リスト(浮動小数点:右)は表示されません
- 24. Golangの整数を浮動小数点数に変換する
- 25. java.io.StreamTokenizer.TT_NUMBER:浮動小数点型または整数型?
- 26. 浮動小数点数列
- 27. 浮動小数点数
- 28. SHA256浮動小数点数
- 29. 浮動小数点数を整数で取得
- 30. CSSが浮動小数点数の浮動小数点数の問題
「65537/65535」ではなく「65535/65536」を意味すると思います(後者は> 1)。 – njuffa
はい、修正しました。 –