CUDA - 管理するメモリ

Question

のクラス全体をコピーするためのパフォーマンスペナルティがどのように悪いです、私が管理するメモリアロケータから派生するいくつかのクラスを持っているので、例えば：

/* ---------管理https://devtalk.nvidia.com/default/topic/987577/-thrust-is-there-a-managed_vector-with-unified-memory-do-we-still-only-have-device_vector-cuda-thrust-managed-vectors-/

は------------それがcudaMallocManagedをやって、new演算子を上書きし、[今すぐ*/

class Cell : public Managed { 
    int a;float b;char c; // say ~50 fields 
} 

をキャストからですが、私が100,000セルオブジェクトの配列を持っていると言います、いくつかの大域関数に送りたいと思っています。この関数は、フィールドの小さな集合（例えば5〜10）だけを使用しますいくつかの計算を行います。

最も簡単な方法は、セルオブジェクトの配列全体を送信することです。しかし、多くの未使用データをコピーします。

より緊密なアプローチは、必要な5-10フィールドのみのデバイスアレイを割り当て、値をコピーしてグローバル関数に送信することです。グローバル関数本体にセルクラスの他のフィールドが必要な場合は、新しい配列を受け入れるためにシグニチャを書き直さなければならないため、少し面倒です。

私の質問 - 一般的に、最も簡単なアプローチを使用した場合のパフォーマンスのペナルティはどれくらいですか？

ありがとうございます！

Answer 1

管理対象メモリが非常に扱われる方法depends on the compute capability of you device。 Pascal（6.x）以降では、アクセスされたページでのみ要求ページを発行します。

低いコンピューティング能力を持つデバイスは、アクセスされたメモリの量にかかわらず、まったくアクセスされるかどうかにかかわらず、管理されたメモリ全体を通常転送します。 ただし、explicitly declare the memory regions to transfer on a per-stream basis using cudaStreamAttachMemAsync()とすることができます。これにより、割り当てやデータ構造をまったく変更することなく、転送されるデータの量を制限することができます。