2台のTitan x GPU間のGPUDirectピアツーピアアクセスとメモリ転送

Question

2台のTitan X GPU間のピアツーピアメモリ転送とメモリアクセスが可能かどうかを知りたい。現在、GPUは1つしかありませんが、可能であれば別のGPUが必要になるかもしれません。 hereとhereの前に同様の質問がされていたことは知っていますが、それらの質問は2歳以上です。私はそれについて何か新しいことがあるかどうか尋ねています。

Answer 1

しかし、いくつかの考慮事項がありますX.タイタンで可能でなければなりません：

1. オペレーティングシステム/ドライバモデル - Windows上では、GPUはWDDMモードまたはTCCモードのいずれかになります。 P2PはWDDMモードAFAIKではサポートされていません。したがって、最新のドライバでは、Titan X（他のほとんどのGeForce製品ではありません）でサポートされているTCCモードでGPUを配置する必要があります。 CUDAでサポートされているLinux OSでは、このような追加の考慮事項はありません。

2. システムトポロジ - GPUの直接P2Pを効果的に、それらが同じPCIEルートコンプレックスに取り付けなければならないことを意味同じ PCIeファブリック、上にある両方のソースとデスティネーションデバイスに依存します。 1つのPCIEスロットが1つのCPUソケットから発生し、別のPCIEスロットが別のCPUソケット（たとえばデュアルソケットマザーボード）から発生するようなシステムトポロジの場合、これらのPCIEファブリックは論理的に分離されます（別々のルート複合体によって処理されます） ）と2つの間のP2P転送は不可能です。さらに、トポロジの決定は、GPUドライバがそれを発見して正しく認識できるかどうかによって異なります。何らかの理由でこれが起こらない場合、それ以外の互換性のあるシステムはまだP2Pで動作しない可能性があります。エンタープライズ/プロダクション用には、GPU間のP2Pアクセスの製造元が認定したシステムを購入することが一般的に推奨されます。したがって、この回答は、特定のコンポーネントが適切に動作することを保証するものではありません。適切なP2P環境ではない2つのGPUの間

データ転送はもちろん、まだ可能ですが、データがより直接的にCPUが関与する経路を通って流れます。