floating-accuracy

0熱

2答えて

にフロート精度のbczを失敗した私は、ガレス・リース偉大指示に従ってpythonでray- /セグメントの交差点を見つけるために、機能を実装しようとしています： https://stackoverflow.com/a/14318254/7235455とhttps://stackoverflow.com/a/565282/7235455 交差点がある場合 from math import radia

0熱

2答えて

Excel 2013 - ビッグナンバーの正確なサポート？

私はエクセル2013を使用して、私が持っている一つのセルでいる：560127029342507827200000 しかし、Excelは示しています：右resultを =26*25*24*23*22*21*20*19*18*17*16*15*14*13*12*11*10*9*8*7 がある560,127,029,342,508,000,000,000 設定は次のとおりです。質問：どのように私は正

-1熱

1答えて

浮動小数点が負にオーバーフローする

符号付き整数は、符号ビットが0から1に反転され、正の整数が負になるような整数オーバーフローを持つ可能性があることがわかります。浮動小数点数でも同じことが起こりますか？実験的に、数が大きすぎる場合は、それはちょうどInfになります。しかし、仮名や指数をあふれさせることは可能ではないでしょうか？同様の問題を引き起こしますか？

1熱

1答えて

モデルの精度は変わらず、ゼロのままです

私は2つの隠れた層を持つニューラルネットワークを構築しました。隠された最初の2つについては、ReLUのアクティベーションを使用し、最後のレイヤーではシグモイド関数を使用しました。モデルを起動すると、損失関数は減少しますが、精度はゼロのままです。 Epoch: 9/150 Train Loss: 6.1869 Train Acc: 0.0005 Epoch: 9/150 Validation Lo

-2熱

1答えて

標準形で表現された非常に小さな値を計算するためにスウィフトを使用する

最初の20要素の核の比電荷を計算するのは長々とした宿題でした。科学計算機で同じ数式に異なる数を入力することに20回も苦しんでいないことを望む人であるので、私はそれをコード化しようとしました。しかし、私は実現：スウィフトがネイティブ小さな数字は、私はAの2つの入力を取り、そしてZは、私が信じていることが呼ばれた問題を引き起こすように見える標準のフォームで使用するのは難しいです核種数とそれぞれ陽

0熱

1答えて

反転時にdouble値が閉じられる

入力は以下の関数でID（1ul剰余）に縮小されますか？ public static double invertTwice(double value) { double inverse = 1.0/value; return 1.0/inverse; } また、関数はアイデンティティ（モジュロ1 ULP）であるため、最大間隔[min, max]は何ですか？ [1E-320

0熱

1答えて

特定の浮動小数点計算はなぜそれほど変わるのですか？（例：123456789f +1 = 123456792）

私は浮動小数点演算、発生した出席エラー、発生するエラー、さらに結果がどういう結果になるのかを理解しようとしています。 1）0.1 + 0.1 +0.1 +0.1 +0.1 +0.1 +0.1 +0.1 +0.1 +0.1 -1.0 = -1.1102230246251565E-16：ここでは、現在働いている特に3例は別名0.1 10回を追加すると、1.0よりわずかに少ない数値が得られます。しかし、

1熱

1答えて

文字列とint形式の浮動小数点の違い。どうして？

ナノ秒で現在の時刻が必要です。文字列"%.9f" % float_timeは、1502872986.6536936 です。あなたは最後に76を見ることができます。 int(float_time*10**9)と同じ時刻を書き込もうとすると、最後には15028729866536936 と96になります。どうして？そして、それはナノフォーマットを得るための正しい方法ですか？ from time imp