私はReactで電卓アプリケーションを作っており、固定小数点以下の四捨五入や切り捨てなしに浮動小数点演算の解決をしたいと考えています。計算機アプリケーション用の浮動小数点演算のソリューション
基本的には、0.3 - 0.1
を計算して0.2
を返し、0.19999999999999998
を返さないようにするには、電卓アプリを取得するにはどうすればよいですか?
私はReactで電卓アプリケーションを作っており、固定小数点以下の四捨五入や切り捨てなしに浮動小数点演算の解決をしたいと考えています。計算機アプリケーション用の浮動小数点演算のソリューション
基本的には、0.3 - 0.1
を計算して0.2
を返し、0.19999999999999998
を返さないようにするには、電卓アプリを取得するにはどうすればよいですか?
あなたは計算を行うためにタイプのような任意の精度Decimal
を使用することができます。このような:「*小数点以下の桁の固定数に丸めるために持ったり切り捨てなし*」https://github.com/MikeMcl/decimal.js
、あなたはライブラリを使用する必要があります。 – RobG
すべての電卓は、表示された桁数よりも3〜6桁長い動作精度を備えています。使用可能なタイプを使用すると、数字を表示するときに10-12桁に丸められることを意味します。 – LutzL