より良いまたは同じ：CPU memcpy（）対CUDAの固定されたマップされたメモリのデバイスcudaMemcpy（）

Question

私が持っている：首尾よく固定とcudaHostAlloc(..., cudaHostAllocMapped)またはcudaHostRegister(..., cudaHostRegisterMapped)を使用してマッピングされてい

• ホストメモリと、
• cudaHostGetDevicePointer(...)を使用してデバイスポインタを取得しました。

上記の手法で得られた固定された+マップされたメモリの2つの異なる領域を指すsrcおよびdestデバイスポインタでcudaMemcpy(..., cudaMemcpyDeviceToDevice)を開始します。 すべて正常に動作します。

質問：私はこれをやり続けますか、従来のCPUスタイルのmemcpy()を使用してください。なぜなら、とにかくすべてがシステムメモリに入っているからですか？ ...または同じですか（つまり、cudaMemcpyはsrcとdestの両方が固定されている場合はmemcpyにストレートにマッピングされますか）。

あなたはUVAとプラットフォーム上で作業している場合、統一（

Answer 1

cudaMemcpyとすると、CUDAドライバはホストポインタからホストポインタにコピーしていることを検出し、コピーはCPU上で実行されます。必要に応じて、もちろんmemcpyをCPU上で使用することもできます。

cudaMemcpyを使用している場合は、コピーを実行する前に余分なストリーム同期が実行されている可能性があります（プロファイラに表示される可能性がありますが、私は—のテストを見ています）。

UVAシステムでは、を使用することができます。しかし、UVA（sm_20 +および64ビットOS）をお持ちでない場合は、正しいコピー（cudaMemcpyDeviceToDevice）を呼び出す必要があります。もしあなたあなたはメモリが配置されているに応じて、次やってしまいますその後、cudaMemcpyDeviceToDeviceに興味があるcudaHostRegister()すべて：

• ホストを< - >ホスト：CPUによって実行される（memcpyの）
• ホスト< - >デバイス：DMA（デバイスのコピーエンジン）
• デバイス< - >デバイス：（ドライバによって起動するSM上で実行、）memcpyのCUDAカーネル

Answer 2

（私は以前にすべてがデバイスグローバルメモリ内にあったので、まだcudaMemcpy方法を使用していますが、以来、サイズの制約をGMEMによる固定メモリに切り替えています）仮想アドレス指定）では、cudaMemcpyをcudaMemcpyDefaultとすることを強くお勧めします。このようにして、この最速パスに関するハンドリングは、あなたが心配する必要のない内部API実装の詳細になります。