2011-12-20 19 views
1

私は一連の他の計算の結果から逆余弦と逆サインを得る必要があります。私の入力値が-1から1の範囲外であれば、acosfまたはasinf return nanが返されます。acosfまたはasinfの入力値を正規化するにはどうすればよいですか?

許容範囲内に収まるように値を調整する必要がありますが、それでも正しい答えが得られますか?スプレッドシートでは、私の計算をチェックするためにこの正規化が行われているので、nanは返されません。

私はacosfのように、値が範囲に入るまでcos(pi)を追加する必要があると思いますが、確認や助言をお願いします。

+2

"nan"ではない場合、正解は何ですか? –

答えて

4

正規化プロセスはありません。答えが[-1、+ 1]の外にある場合は、前の計算が破られます。

ただし、浮動小数点の不正確さが1.00001などの値になる場合は例外です。このような場合、入力を有効な範囲にクランプすることはおそらく安全です。

+0

Ahhhh - 値は1に非常に近い値でした。私はそれがちょうど範囲外に出始めたと仮定しましたが、丸め/浮動小数点の不正確さがより意味を持ちます。非常にありがとう。私がトリグをしてから何年も経っています。今はとても錆びています... – jrturton

関連する問題