アラインメントされていないロードとアラインされていないストア

Question

短い質問は、2つのベクトルをとる関数がある場合です。 1つは入力され、もう1つは出力されます（別名なし）。私はそれらのうちの1つだけを整列させることができますが、どちらを選ぶべきですか？

より長いバージョンが

void func(size_t n, void *in, void *out) 
{ 
    __m256i *in256 = reinterpret_cast<__m256i *>(in); 
    __m256i *out256 = reinterpret_cast<__m256i *>(out); 
    while (n >= 32) { 
     __m256i data = _mm256_loadu_si256(in256++); 
     // process data 
     _mm256_storeu_si256(out256++, data); 
     n -= 32; 
    } 
    // process the remaining n % 32 bytes; 
} 

、機能を考慮することであるinとoutが整列、32バイトである場合、次にvmovdquを使用して代わりにvmovdqaのペナルティはありません。最悪のシナリオは、両方ともアライメントが合わず、4つのロード/ストアの1つがキャッシュライン境界を越えることです。

この場合、ループに入る前に少数の要素を最初に処理することによって、そのうちの1つをキャッシュライン境界に揃えることができます。しかし、問題は私が選ぶべきか？アライメントされていないロードとストアの間で、どちらが悪いですか？

Answer 1

ここにはっきりと述べる危険性：「実際のコードと実際のデータの両方でベンチマークする必要がある」以外は「正解」はありません。いずれのバリエーションが速いかは、使用しているCPU、各パッケージで実行している計算量、その他の多くの要因によって大きく異なります。

コメントに記載されているように、非一時的なストアも試してください。あなたがやっている計算が避けられないデータの待ち時間を持っている場合は

__m256i next = _mm256_loadu_si256(in256++); 
for(...){ 
    __m256i data = next; // usually 0 cost 
    next = _mm256_loadu_si256(in256++); 
    // do computations and store data 
} 

、あなたはまた、インターリーブされた2つのパッケージが計算考慮する必要があります。何も時々できヘルプはすなわち、現在のループ内で、次のデータパケットの入力をロードすることです（これは2倍の数のレジスタを使用します）。