OpenMPでのスケーリングが悪い（キャッシュの競合？）

Question

OpenMPとキャッシュの競合についてもっと学びたいので、どのように動作するかを理解するための簡単なプログラムを書きました。私は単純なベクトルの追加のためにスレッドのスケーリングが悪くなっていますが、なぜそれは理解できません。これは私のプログラムです：

これは次の出力を生成し実行

#include <iostream> 
#include <omp.h> 
#include <vector> 

using namespace std; 

int main(){ 

    // Initialize stuff 
    int nuElements=20000000; // Number of elements 
    int i; 
    vector<int> x, y, z; 
    x.assign(nuElements,0); 
    y.assign(nuElements,0); 
    z.assign(nuElements,0); 
    double start; // Timer 

    for (i=0;i<nuElements;++i){ 
     x[i]=i; 
     y[i]=i; 
    }  

    // Increase the threads by 1 every time, and add the two vectors 
    for (int t=1;t<5;++t){ 

     // Re-set z vector values 
     z.clear(); 

     // Set number of threads for this iteration 
     omp_set_num_threads(t); 

     // Start timer 
     start=omp_get_wtime(); 

     // Parallel for 
#pragma omp parallel for 
     for (i=0;i<nuElements;++i) 
     { 
      z[i]=x[i]+y[i]; 
     } 
     // Print wall time 
     cout<<"Time for "<<omp_get_max_threads()<<" thread(s) : "<<omp_get_wtime()-start<<endl; 
    } 
    return 0; 
} 

：

Time for 1 thread(s) : 0.020606 
Time for 2 thread(s) : 0.022671 
Time for 3 thread(s) : 0.026737 
Time for 4 thread(s) : 0.02825 

私は、このコマンドでコンパイル：clang++ -O3 -std=c++11 -fopenmp=libiomp5 test_omp.cpp

あなたが見ることができるように、スケーリングがちょうど数として悪くなりますスレッドの数が増えます。私はこれを4コアのIntel-i7プロセッサで実行しています。誰が何が起こっているか知っていますか？

Answer 1

CPUの速度ではなくメモリの帯域幅によって制限があります。あなたが行っていることが追加とコピーだけであれば、CPUを1つだけ使用してメモリを使用し続けるだけです。したがって、より多くのコアを追加することは役に立ちません。

さらにスレッドを追加する利点を確認するには、L1またはL2キャッシュに収まるほど小さな複雑な操作を実行してみてください。