AVX、SSEの合計はgccの自動ベクトル化よりも遅い

Question

私は奇妙な出来事があり、それを実際に説明することはできません。私はいくつかの数値コードを書こうとしているので、いくつかの実装をベンチマークしています。私はちょうどSSEとAVXとベクトル自動追加といくつかのベクトル追加をベンチマークしたかった。これをテストするために、私は以下のコードを使用して修正しました。

コード：タイミングや計算GFLOP/Sの場合

#include <iostream> 
#include <immintrin.h> 

#include "../../time/timer.hpp" 


void ser(double* a, double* b, double* res, int size){ 
for(int i(0); i < size; i++) 
{ 
    res[i] = a[i] + b[i]; 
} 
} 

void sse(double* a, double* b, double* res, int size){ 
for (int i(0); i < (size & ~0x1); i += 2) 
{ 
    const __m128d kA2 = _mm_load_pd(&a[i]); 
    const __m128d kB2 = _mm_load_pd(&b[i]); 
    const __m128d kRes = _mm_add_pd(kA2, kB2); 
    _mm_store_pd(&res[i], kRes); 
} 
} 

void avx(double* a, double* b, double* res, int size){ 
for (int i(0); i < (size & ~0x3); i += 4) 
{ 
    const __m256d kA4 = _mm256_load_pd(&a[i]); 
    const __m256d kB4 = _mm256_load_pd(&b[i]); 
    const __m256d kRes = _mm256_add_pd(kA4, kB4); 
    _mm256_store_pd(&res[i], kRes); 
} 
} 


#define N 1e7*64 

int main(int argc, char const *argv[]) 
{ 


double* a = (double*)_mm_malloc(N*sizeof(double), 64); 
double* b = (double*)_mm_malloc(N*sizeof(double), 64); 
double* res = (double*)_mm_malloc(N*sizeof(double), 64); 

Timer tm; 

tm.start(); 
avx(a,b,res,N); 
tm.stop(); 
std::cout<<"AVX\t"<<tm.elapsed()<<" ms\t" 
      <<1e-6*N/tm.elapsed() <<" GFLOP/s"<<std::endl; 

tm.start(); 
sse(a,b,res,N); 
tm.stop(); 
std::cout<<"SSE\t"<<tm.elapsed()<<" ms\t" 
      <<1e-6*N/tm.elapsed() <<" GFLOP/s"<<std::endl; 

tm.start(); 
ser(a,b,res,N); 
tm.stop(); 
std::cout<<"SER\t"<<tm.elapsed()<<" ms\t" 
      <<1e-6*N/tm.elapsed() <<" GFLOP/s"<<std::endl; 
return 0; 
} 

、私が取得：はっきり本当に約170 GFLOP /秒ののpeak performanceに比べて遅い

./test3 
AVX 1892 ms 0.338266 GFLOP/s 
SSE 408 ms 1.56863 GFLOP/s 
SER 396 ms 1.61616 GFLOP/s 

私のi5 6600K。

ここで重要な情報がありません。私は、CPU上でのベクトルの追加は最善の考えではないことを知っていますが、これらの結果は実際には悪いことです。どんな手がかりもありがとう。

Answer 1

これは、分岐予測（より詳細な説明については、Why is it faster to process a sorted array than an unsorted array?を読んでください）と関連しています。私のi5-4200Uでは、100000000をAVX、SSE、SERの順に2倍に処理すると、これが表示されます。

AVX 807 ms 0.123916 GFLOP/s SSE 215 ms 0.465116 GFLOP/s SER 287 ms 0.348432 GFLOP/s

しかし、私はSER、AVX、SSEに変更した場合、それはこれまでのところ、私は知らないあなたのCPUのピークパフォーマンスからだなぜ私はこの

SER 753 ms 0.132802 GFLOP/s AVX 225 ms 0.444444 GFLOP/s SSE 196 ms 0.510204 GFLOP/s

を取得します。

Answer 2

アプリケーションは、CPUに限定されているのではなく、メモリに基づいている可能性があります。言い換えれば、メモリ帯域幅がボトルネックになり、ベクトル化はここではあまり役に立ちません。