Intel OpenCLコンパイラ：structの使用を最適化する

Question

OpenCLでIntel CPU上の構造体の使用に関する質問があります。はるかに速く、私は次のようにカーネルを変更する場合

struct pair { 
    float first; 
    float second; 
}; 

inline const float f(const struct pair param) { 
    return param.first * param.second; 
} 

inline const struct pair access_func(__global float const * const a, __global float const * const b, const int i) { 
    struct pair res = { 
      a[i], 
      b[i] 
    }; 
    return res; 
} 

// slow 
__kernel ...(__global float const * const a, __global float const * const b) 
{ 
// ... 

x = f(access_func(a, b, i)); 

// ... 
} 

は、それが実行されます：

// fast 
__kernel ...(__global float const * const a, __global float const * const b) 
{ 
// ... 

x = a[i] * b[ i ]; 

// ... 
} 

インテルを聞かせする方法はあります私の現在のカーネルは、次のように構造体を使用して、2つのバッファにアクセスコンパイラはこの最適化を行いますか？ NVIDIAコンパイラはこれを行うことができると思われます。なぜなら、私はGPU上のランタイムに違いは見られないからです。

ありがとうございます！

Answer 1

コンパイラは、OpenCLデバイスとホスト間、および/またはOpenCLデバイス上の複数のカーネル間でバッファが共有されていることを考慮して、データのメモリレイアウトの最適化を実行できません。最も効率的なレイアウトは、カーネル内のアクセスパターンに依存し、各カーネルでは明らかに異なることがあります。

データのメモリレイアウトを賢明に選択する必要があります。これはGPUプログラミングの最も難しい部分の1つです。彼らが好むものを見つけるためには、それぞれの実装についてOpenCLの最適化ガイドを参照してください。場合によっては、メモリがglobalからメモリがlocalにコピーされ、ローカルコピーから作業することによって、非効率的なアクセスパターンがマスクされることがあります。