CUBLASは、クエリ

Question

これらが稼働してCUBLASの私の結果ですが、それぞれのGPU（テスラM2050）のための2つのストリームを使用して4つのGPU上でDGEMMパフォーマンスDGEMM：私は私の結果をテストしていると、彼らは大丈夫です

。私は、デフォルトのストリームを使用するバージョンと比較して、私が得ている高いGflops値が心配です。複数のストリームを使用するバージョンについては

Gflops = {2.0*10^-9*(N^3+N^2)}/elapsed_time_in_s

を、私はどのような方法でこの式を変更する必要があります：私は式を使用してGFLOPSを計算するのですか？

HtoD-ker-DtoHは、ホストからデバイスへのデータ転送、カーネル実行、およびデバイスからホストへのデータ転送を秒単位で行うのにかかる時間です（これは上記の式の分母です）。 クロスポストのNvidiaのフォーラム - http://forums.nvidia.com/index.php?showtopic=219910&st=0#entry1350908

EDIT：@talonmiesのコメントに続いて、私は時間を計算する前cudaStreamSynchronizeを追加し、結果は以下の通りである：

おかげで、

Sayan

Answer 1

単一のC2050は、約550GFLOP/sピーク、または倍精度のための4ピークの約2200GFLOP/sを与え、DGEMMはconおそらくピークよりも低い）、私はストリームのケースでタイミングが間違っていると推測します（おそらくデフォルトのストリームの場合は同期していたものが非同期です）。 FLOP/s計算は、どのように計算を行っても変わらないはずです。

使用するタイミングメカニズムは、すべてのストリームのcudaStreamWaitEventメカニズムまたはストリームごとにcudaStreamSynchronizeメカニズムのいずれかを使用して、起動するすべてのストリームに同期されることを確認します。 GPUがCUBLASの操作を完了する前に、あなたが試行しているコードからタイミングが外れている可能性があります。