私はすばやいです（2.2を使用）。200.23 - 200が0.2299999999999898に等しいと表示されています。私はコンピュータが不合理な数を正確に表すことができないことを知っていますが、なぜ有理数も正しく表現されていないのか分かりません。これは私のプログラムで生成された出力番号に影響を与え、問題につながります。私は数を定義し、その全体と小数部分を抽出しています上記のコードで var
丸めコードで倍増するスクリプトに問題があり、エラーを見つけることができません。問題がどこから発生しているのかわからない。どんなフィードバックも高く評価されます。 def research_rounding(first_time):
first_time = float(first_time)
if first_time == 0: #If time is 0, ret
浮動小数点変数を持つC＃（.Net 4.6.1）で奇妙な問題が発生しました。 public class Point
{
public readonly double X;
public readonly double Y;
public Point(double x, double y)
{
this.X = x;
this.Y
私はワークシート内のセルに関連する倍精度を使用して非常に正確な計算をしようとしています。コードをデバッグするとき、テストダブルとしてのみ-3298.86を拾っていることは明らかですが...£3,298.8599993 - J2は10進値ですセルで Sub MacroTest()
Dim opt As Worksheet
Set opt = Sheets("Optimisation")
D