cuBLAS（numba）の正方形でないC桁の行列

Question

cuBLAS関数をAnacondaのNumbaパッケージで使用しようとしましたが、問題があります。入力行列がCオーダーになるようにする必要があります。出力はFortranオーダーで出力されます。

パッケージに付属のサンプルスクリプトhereを実行できます。このスクリプトには、gemm_v1とgemm_v2の2つの機能があります。 gemm_v1では、ユーザーはFortranの順序で入力行列を作成する必要があります。 gemm_v2では、それらをGEMMのcuda実装に渡して、デバイス上で入れ替えることができます。これらの例を正方行列で扱うことができます。しかし、私はgemm_v2を非正方入力行列で動作させる方法を理解することはできません。非正方形であるCオーダーの入力行列を扱う方法はありますか？

注：GEMMへの呼び出しが他の計算で使用する後
理想的には、入力と出力の両方のマトリックス（これは反復法の一部である）デバイスにとどまります。

Answer 1

この例の問題点は、正方行列に対してのみ機能することです。行列が正方形でない場合、寸法ミスマッチのためにA^t*B^tを計算することはできません（次元がA*Bの場合は正しいと仮定します）。

実際にcuBLASをインストールしているわけではありませんので、暗闇の中でのショットです。しかし、cuBLASが通常のBLASとは異なる動作をすると本当に驚いています。 BLASは、行列を列メジャーオーダー（別名Fortranオーダー）にすることを期待していますが、行メジャーオーダー（別名Cオーダー）のマトリックスにも使用できます。

私の意見では、完全に間違っているかもしれませんが、gemm_v2は、2つのC-オーダー行列の乗算を処理する通常の/最良の方法ではありません。たとえば、答えとして次数行列を求める。

次のように働くだろうgemmの助けを借りて、2つのC-オーダー行列の積を計算するためのトリック：

をそれはおそらくあなたに知られていても、私が上で詳しく説明して最初たい行major-私の答えを体現するために、注文（c-memory-layout）と列major-order（fortran-memory-layout）

我々は持っているので、場合2x3（すなわち2行3列）、いくつかの連続したメモリ内の行列A、それを保存、我々が得る：我々が表す連続したメモリを、得れば意味

row-major-order(A) = A11, A12, A13, A21, A22, A23 
col-major-order(A) = A11, A21, A12, A22, A13, A33 

行列を行優先順位に置き換えて、それを列主要順序の行列として解釈すると、全く異なる行列が得られます！

我々は転置行列A^tを見てみる場合は、我々は簡単に見ることができます：

row-major-order(A) = col-major-order(A^t) 
col-major-order(A) = row-major-order(A^t) 

我々は結果として行優先順に行列Cを取得する場合は、ことを意味し、 blas-routineは、転置された行列Cを列メジャーオーダー（この後は変更できません）の後に、この非常にメモリに書き込む必要があります。しかし、C^t=(AB)^t=B^t*A^tとB^tとA^tは、列メジャーオーダーで再解釈された元の行列です。

gemm('N', 'N', m, n, k, 1.0, B, m, A, k, 0.0, C, m) 

は注意してください：

1. は行っておりません

   さて、Aはn x k - マトリックスとBk x m - マトリックス、次のようにする必要がありますgemmルーチンの呼び出しも聞かせて行列AおよびBを転置する必要があります。これは、C順序をFortranオーダとして再解釈することによって処理されるためです。

2. AとBは、結果としてC^tをFortranオーダーで取得するために置き換えなければなりません。
3. 結果の行列CはC順序である（Fortran-orderからC-orderへの再解釈により、^tを取り除く）。