cuBLAS-XTを大きな入力サイズに使用する

Question

This link は、cuBLAS-XTルーチンがアウトオブコアオペレーションを提供することを示しています。オペランドデータのサイズは、GPUのオンボードメモリサイズではなくシステムメモリサイズによって制限されます。これは、入力データをCPUメモリに格納し、出力のサイズがGPUのメモリサイズより大きい限り、cuBLAS-XT関数を使用できることを意味します。

this link「非常に大きな問題が発生した場合、cublasXt APIは計算の一部をホストCPUにオフロードする可能性があります」と「Currenty、ルーチンcublasXtgemm（）のみがこの機能をサポートしています誰かが違いを理解するために私を助けている場合。これは、入力サイズは、CPUのメモリサイズよりも大きいことを問題の場合ですか？

私は、これら2つの違いを得ることはありません！私は感謝しています。

Answer 1

の目的cublasXtは、複数のGPUで自動的に演算を実行できるようにするため、行列乗算などのサポートされている演算を複数のGPUで実行することができます。

cublasXtgemmルーチンは2つの以上のGPUを横切っ乗算行列を並列に加えて、それはまた、追加の計算エンジンとしてホストCPUを使用して2つの以上のGPU を横切ってそれを並列PLUSできること、特別能力を有しています。

行列乗算の問題は、前述のように容易に分解可能です。here単なるGPUだけで作業のすべての "チャンク"を実行すると、cublasXtgemm（GPUを使用する）の通常の機能です。 GPUで作業のチャンクを1つだけ残して実行し、CPU上で作業のチャンクの1つを実行すると、それは特別なです。