NPP：重複計算とデータ転送

Question

CUDAでは、cuMemcpy非同期関数とストリームを使用して計算とデータ転送をオーバーラップさせることができます。しかし、それはNPP（パフォーマンスプリミティブ）で可能ですか？

少し背景。私は、NPPイメージリサイズ関数（この場合はnppiResize_8u_C3R）を使用してGPUを利用しようとしています。私は固定メモリを使用して、cuMemcpy2DAsync_v2とスレッドストリームを使用してGPUにデータを正常に転送しています。問題はnppiResize_8u_C3Rであり、他のすべての計算関数はストリームを受け入れないということです。

私はNvidiaのビジュアルプロファイラを実行すると、私は、次を参照してください。 - 〜6.524ギガバイト/秒

1. 固定されたメモリーは、私はより速くデータを転送することができます。
2. memcpyがcomputeと並行して実行されている時間のパーセンテージは0％です。

Answer 1

問題の[sic]はnppiResize_8u_C3Rおよび他のすべての計算機能がストリームを受け入れないことです。

NPPは基本的にステートレスAPIです。ただし、NPPでストリームを使用するには、nppSetStreamを使用して、後続操作のデフォルトストリームを設定します。ストリームを使用してNPPを使用し、ストリームを切り替える際に推奨される同期の方法については、2ページに記載されている注意点がいくつかあります。