ieee-754

2熱

2答えて

IEEE 754浮動小数点表現の加算合計が、私は16ビットの2進数で2つの浮動小数点数を持っている、と私はそれらを追加しようとしているときに私が問題に遭遇16ビット形式

で場所を超えて： A = 0 11110 1111000000 B = 0 11010 1101110000 A + Bは私がやろうとしていることですが、ここに私の問題があります。合計を16ビット形式で表現するにはどうすればよいですか？ A = 63488 B = 3808 A + B = 67296 IEEE 754表記で16ビットに適合させることができる最大進数表現され、65504であ

floating-point ieee-754 16-bit 2017-04-10

---

1熱

1答えて

IEEE 754浮動小数点 - なぜこれは機能しますか？次を考える

：オペランドの1つ以上が正確にIEEE 754倍精度浮動小数点では表現できないので、結果はほとんどなくなるため .1 + .2 === .3 // false 1 * .3 === .3 // true ...前者は0.3にはなりません。かなり0.3。 なぜ後者がtrueを返すのですか？それは0.3がIEEE 754倍精度浮動小数点で正確に表現できるからですか？

javascript double ieee-754 2017-05-31

---

0熱

1答えて

浮動小数点の中間点を計算する

2つの浮動小数点数（IEEE単精度または倍精度）が与えられている場合、それらの間の中間にある数字を検索したいが、（x + y）/ 2の意味ではない実際に表現可能な数に関して。 xとyの両方が正である場合は、次のようにこの作品 float ieeeMidpoint(float x, float y) { assert(x >= 0 && y >= 0); int xi = *(

bit-manipulation ieee-754 2017-04-17

---

2熱

2答えて

OracleとJava（IEEE 754）のdouble値の差

OracleのBINARY_DOUBLEとJavaのDoubleは、IEEE 754標準を使用しています。 しかし、その精度に違いがあります。たとえば値については ： 456.67d オラクル： declare a BINARY_DOUBLE := 456.67d; begin SYS.DBMS_OUTPUT.PUT_Line(TO_CHAR(a,'9.99999999999

java oracle floating-point floating-accuracy ieee-754 2017-04-21

---

4熱

1答えて

0.5 * x + 0.5 * x == xというのはいつも真実だと言えますか？

0.5は、2の（負の）累乗であり、IEEE-754バイナリ浮動小数点フォーマットによって正確に表現できることを意味します。 signle精度では0'01111110'00000000000000000000000です。 の場合、y + y == xの場合、最適化をオフにしたクイックテスト（-O0）に基づいています。しかし、IEEE-754規格では常に保証されていますか？ 私はnは正の整数2のパワー

floating-point precision floating-accuracy ieee-754 2017-06-10

---

-1熱

1答えて

IEEE-754浮動小数点数の丸め機構

IEEE-754浮動小数点数表現における丸数字とガード数字についての質問です。標準によると、2つの追加数字が計算のために予約されています。点後の2桁が利用可能であると仮定し、ここで 2.3400 + 0.0256 -------- 2.3656 、ガードが5であり、丸は6と56> 50は、それが100に丸められ、従って、結果は、しかし2.37 ありますガードとラウンド数字

floating-point ieee-754 2017-03-06

---

1熱

4答えて

整数と浮動小数点の変換

C++の（暗黙的な）型変換に関する小さな問題があります。 float f = 554344.76; int x1 = f; std::cout << x1 << std::endl; プリント554344（切り捨てるまたは小数点以下の切断）をintへフロートしかしfloat f = 5543444.76;とそれを交換するときには、（切り上げ）5543445を印刷します。最初のケースでは切り

c++ type-conversion ieee-754 2017-03-14

---

1熱

2答えて

浮動小数点逆バイナリ表現

私は次のコードの断片と困惑している： int main() { std::cout << std::bitset<32>(10.0f) << std::endl; std::cout << std::bitset<32>(-10.0f) << std::endl; float x = 10.0f; std::bitset<32> bsx(x);

c++ floating-point c++14 ieee-754 2017-03-21

---

0熱

1答えて

Javascript：符号付き文字配列をFloat（IEEE754を使用している可能性あり）に変換するにはどうすればよいですか？

私はnodejs-JDBC-MSSQL-Binary-ResultValueの結果に苦しんでいます。私はは0x3Fがリトルエンディアンとしてビッグエンディアンと 0x3F6377B2で、コード（0xB2）、0x77、は0x63を進でこの [-78,119,99,63] // this is an array of signed Chars を持っている私のデータベースから 。 0.888545

javascript node.js hex ieee-754 2017-03-28

---