並列化されたBLASルーチンの結果の確認

Question

OpenCLにいくつかの並列BLASルーチンを実装しました。カーネルが正しいかどうかを調べるために、同じルーチンを素朴な方法で実装しました。カーネルを実行した後、カーネルの結果を素朴な実装の結果と比較します。

floatの値を==と比較することはできません。したがって、私は2つの絶対差を計算し、それが限界を超えているかどうかを確認します。私は既にfloatsを比較するいくつかの他の方法を記述するthis articleを読みました。しかし、私の問題は、floatsを比較するために使用する制限がわかりません。私の場合、限界はBLASルーチンと入力サイズに大きく依存しているようです。

たとえば、float値のベクトルの絶対値の合計を計算するasumを実装しました。サイズ16777216の入力ベクトルの場合、素朴な実装と私の並列化された実装の違いは96です！ 1 048 576の入力サイズの場合、その差はわずか0.5です。私は小さな入力サイズで手作業で結果をチェックしたので、私のカーネルは正しいと確信しています。私は大きな入力ベクトルのために差が蓄積していると推測しています。

私の質問は、floatの不正確さから生じる可能性のある最大の違いを計算する方法はありますか？カーネルコードのエラーのために違いがあるのか​​どうかを知る方法はありますか？

Answer 1

ここで使用できるインターバル数学というテクニックがあります。代わりにあなたが許容できると考えるいくつかの固定されたエラーを持っていることの

は、あなたが与えられた浮動小数点演算が「実際に」を参照することができ最もと少なくとも値を追跡します。

Wikipedia has an article on it。

ライブラリーが見つからない場合は、インターバルフロートタイプを作成します。それは、2つの浮動小数点数を含み、間隔が表すことができる最高値と最低値を表します。

丸めの効果を含めると、+と*と/とが上書きされます。それは仕事を書くだろう。 3.0の値の範囲が1.0と2.0秒の誤差を考慮するのに十分な大きさでありとして

ですから、{1.0,1.0}と{2.0,2.0}を追加した場合、その答えは、{3.0,3.0}だろう。

{3.0, 3.0}のエラーが{1.0, 1.0}で示されるエラーよりも大きいため、答えは{0.9999999999997, 1.00000000003}などとなります。

同じことが乗算と除算に当てはまります。

分裂がある場合は、これらの間隔が「inf/nanを含むすべての可能な数」に達するのは驚くほど簡単です。そして、前述したように、減算は重大な問題につながります。キャンセルする言葉が大量にある場合は、予想よりもはるかに大きなエラーバーで簡単に終わることがあります。

最後に、あなたのOpenCLソリューションがその期間内に値をもたらすならば、あなたは「よく、それは間違っていない」と言うことができます。