decimal

2熱

3答えて

私はMが明示的に小数点としてタイプを述べることであることを示唆している他の回答見てきました小数リテラル

decimal l = 50.0M; のMサフィックスの関連性は何ですか - タイプは、変数の、独占的であるしかしWhat does the M stand for in C# Decimal literal notation? は、なぜサフィックスがあるべきですか？変数の型は、同様に、指定されていないとき、私はサフィックスの関連性を見ることができます：C＃で var l = 50.0M

0熱

1答えて

Googleシートの小数点までの時間を計算する

数式を使用してGoogleシートで小数点までの時間を計算するにはどうすればよいですか？基本的に、私はこのような何かがセットアップされている：1時間53分は1.88時間であるため、誤っている Gross Pay: 16.63 Total Online: 1.53 (Represents 1 hour 53 minutes) Hourly Rate: 10.87 (Just a formula

0熱

2答えて

Pythonで精度をn個まで増やすと小数点結果が得られます

0.000028などの結果で非常に少量になる複雑な数学演算を持つアプリがあります。今、私はJavaScriptのような計算を（29631/1073741824）私は結果を0.000027596019208431244としていますが、データ型がfloatのpythonと同じ計算では0.0になります。どのように私はPythonの

0熱

1答えて

petapocoでデータベースに小数点を挿入する際のエラー

PetaPocoを使用してデータベースに10進値を挿入する際に問題が発生しました。私のモデルでは私はproeprty持っている： [Column("Price")] public decimal PriceTotal { get; set; } をしてdatabseに関連するコラムPriceは、私は、インサート行うとタイプのdecimal(18, 2) です： public voi

2熱

2答えて

1ペニー未満の場合は床につける方法、そうでない場合は

値がペニーであるかどうかを確認する最良の方法は何ですか？戻り値0の場合は、Math.flooredの値。 price_usdが00.0031のようなものであれば、現在以下のコードは$ 0.01の値を返します。返すべきものは0です。ただし、値が00.56の場合は現在は56セントになります。 const rounder = (balance, price_usd) => round(multiply

0熱

1答えて

拘束中にダブルピリオドからのクラッシュを避けるCharacterSet

私はGPA電卓プロジェクトを完備しています。唯一許可されている文字「.」にもかかわらず、ユーザーが浮動小数点数を入力するのを防ぐ必要があります。たとえば、ユーザーが2.3を入力した場合。どんな理由であれ、私のプログラムはこの「入力」が浮動小数点ではないのでクラッシュします。私は以下のコードの基盤を含んでいます。それがテキストフィールドの機能に関連して、私が最も実用的にテキストフィールドに一つだけ小

4熱

1答えて

python3で小数除算の余りを得るには？

私は十進法除算の残りの部分を得る無限の方法を探しています。私の使用例はここにいくつかの製品に1つの価格を派遣したいと考えています。たとえば、3つのアイテムで10ドルのオーダーを得て、セントを失うことなく3つの製品に価格を派遣したいと思っています:) そして、それは価格なので、 price = 10 number_of_product = 3 price_per_product = int(

0熱

2答えて

UltraGrid検証問題

私は、私が持っているグリッドの検証の点で、私のアプリケーションのエンドユーザと提起されたいくつかの問題があります。 2つの列がDate列であるため、セルにはデータの入力を許可するためにDatePickersが含まれています。しかし、何らかの理由で、これらのセルで現在の日付を選択することはできません。前回/将来の日付を最初に選択した場合は、現在の日付に変更できますが、これは最も効率的なものではあり

0熱

2答えて

PythonでDecimalを掛けるときの精度の損失

Pythonで2つの10進数のオブジェクトを掛けようとすると、精度が低下します。これをどうすれば解決できますか？ u = Decimal("1.41421356237309504880168872420969807856967187537694807317667973799073247846210703885038753432764157273501384623091229702492483605

0熱

3答えて

Python DecimalとC＃の小数精度

これは何度も尋ねられていますが、私は多くのブログとその答えに出くわしましたが、これは私が私の髪を引っ張るようにしています。私はちょうどので、私はその小数を取り除く100で2進数を乗算します： >>> 4321.90 * 100 432189.99999999994 >>> Decimal(4321.90) * Decimal(100) Decimal('432189.999999999963