浮動小数点演算の間に発生する浮動小数点の誤差と四捨五入誤差を読み取っています。浮動小数点演算
IEEE 754 - 単精度/倍精度形式の記事をたくさん読んでいます。 私は符号ビット、8(または)11ビットの指数、23(または)52ビットの仮数部、暗黙の先頭ビットがあることを理解します。
私も、私は0.1 + 0.1 + 0.1ではないことを理解
.....その分母が2の主要因ではない実数は、バイナリで例えば、0.1の場合は正確に表現することはできませんが0.0001100110011であることを知っています丸め誤差の累積のため0.3に等しくなります。
また0.5は1/2であるため、バイナリ形式でも正確に表現できます。 しかし、0.1 + 0.1 + 0.1 + 0.1 + 0.1 = 0.5という理由で丸め誤差の上記の累積を考えるとわかりません。
あなたは '0.1' 5回を蓄積するときに、* *丸め誤差を得ないと言っていますか? – MooseBoys
エラーが0.1回加算されたときにエラーの累積が捨てられるか、バイナリで正確に表現可能な数につながる他の算術が混乱しているのは混乱します。 – chebus
新しい値によって不正確さが失われた場合にのみ、不正確さが失われます。 –