mantissa

0熱

1答えて

私はVerilogでハードウェア倍精度加算器を実装しています。検証フェーズでハードウェア出力をMATLAB（またはC）の倍精度加算出力と比較すると、同じ丸めモード（最も近い偶数に丸めます）を使用していることを考慮して、LSBが一致しないいくつかの奇妙なケースが見つかりました。私の質問は、Cの計算の正確さについてです、丸めを行うことで本当に正確ですか、それはいくつかのCPUアーキテクチャ（32または

0熱

1答えて

仮数と指数 - 10進数の負の数値（.5を超える）

ここは私の質問です。私はいくつかの仕事をしており、2つの異なる答えを見ています。私は電卓（オンライン）を使って自分の答えをチェックしていましたが、それは私が得るはずの答えと衝突していて、どれが正しいかを知る必要があります。問題は次のとおりです。 -6.25 これを6.25で処理した後、2つの補数を取りました。 6.25 - > 0110.001 仮数 - > 0.11000100000指数は -

2熱

1答えて

シェーダ時間の制服 - にclock_gettime切り捨てられている

は、二重使用にclock_gettimeとしての時間を取得し、この機能を取る：シェーダにそれを送信する // return current time in milliseconds static double time_get_ms(void) { struct timespec res; #ifdef ANDROID clock_gettime(CLOCK_REALT

5熱

1答えて

Perlの仮数は他の倍数と異なります

私はフロートでスキャンしようとしています：13.8518009935297。最初のルーチンは私のもので、2番目はMacOSX libcの strtod、3番目のものはGMPのmpf_get_d（）で、 perls numeric.c：Perl_my_atof2（）です。 4つの機能のために union ieee_double { struct { uint32_t f