如何提示OpenMP步伐？

Question

我想了解爲什麼OpenMP打破循環矢量化的概念原因。此外，任何修復此問題的建議都會有所幫助。我正在考慮手動並行化這個問題來解決這個問題，但那肯定不會很優雅，並導致大量的代碼膨脹，因爲我的代碼由幾個這樣的部分組成，這些部分可以用於向量化和並行化。

我使用

微軟（R）C/C++優化編譯器版本17.00.60315.1針對x64

對於OpenMP：

信息C5002：循環不矢量化由於原因'502'

沒有OpenMP的：

信息C5001：環矢量

的VS vectorization page說，這個錯誤發生在：

感應變量以某種方式加強不是一個簡單的其他+1

我可以強制它跨步1嗎？

循環

#pragma omp parallel for 
for (int j = 0; j < H*W; j++)//A,B,C,D,IN are __restricted 
{ 
    float Gs = D[j]-B[j]; 
    float Gc = A[j]-C[j]; 
    in[j]=atan2f(Gs,Gc); 
} 

盡力而爲

#pragma omp parallel 
{// This seems to vectorize, but it still requires quite a lot of boiler code 
    int middle = H*W/2; 
    #pragma omp sections nowait 
    { 
     #pragma omp section 
     for (int j = 0; j < middle; j++) 
     { 
      float Gs = D[j]-B[j]; 
      float Gc = A[j]-C[j]; 
      in[j]=atan2f(Gs,Gc); 
     } 
     #pragma omp section 
     for (int j = middle; j < H*W; j++) 
     { 
      float Gs = D[j]-B[j]; 
      float Gc = A[j]-C[j]; 
      in[j]=atan2f(Gs,Gc); 
     } 
    } 
} 

Answer 1

我建議您手動進行矢量化。一個原因是自動矢量化似乎不能很好地處理循環依賴（循環展開）。

爲了避免代碼膨脹和神祕的內在因素，我使用了Agner Fog的vectorclass。根據我的經驗，它與使用內在函數一樣快，它會根據您的編譯方式自動利用SSE2-AVX2（在英特爾仿真器上測試AVX2）。我已經寫了使用Vector類的GEMM代碼，它可以在SSE2上運行到AVX2，當我在AVX系統上運行時，我的代碼已經比僅使用SSE的Eigen快。這裏是你的vector類的函數（我沒有嘗試展開循環）。

#include "omp.h" 
#include "math.h" 

#include "vectorclass.h" 
#include "vectormath.h" 

void loop(const int H, const int W, const int outer_stride, float *A, float *B, float *C, float *D, float* in) { 
    #pragma omp parallel for 
    for (int j = 0; j < H*W; j+=8)//A,B,C,D,IN are __restricted, W*H must be a multiple of 8 
    { 
     Vec8f Gs = Vec8f().load(&D[j]) - Vec8f().load(&B[j]); 
     Vec8f Gc = Vec8f().load(&A[j]) - Vec8f().load(&C[j]); 
     Vec8f invec = atan(Gs, Gc); 
     invec.store(&in[j]); 
    } 

} 

當你自己做矢量化時，你必須小心數組邊界。在上面的函數H 中，W需要是8的倍數。有幾種解決方案，但最簡單和最有效的解決方案是使陣列（A，B，C，D，in）稍大一點（最大7個浮點數），如果有必要爲8的倍數。然而，另一個解決方案是使用下面的代碼，它不需要W H是8的倍數，但它不那麼漂亮。

#define ROUND_DOWN(x, s) ((x) & ~((s)-1)) 
void loop_fix(const int H, const int W, const int outer_stride, float *A, float *B, float *C, float *D, float* in) { 
    #pragma omp parallel for 
    for (int j = 0; j < ROUND_DOWN(H*W,8); j+=8)//A,B,C,D,IN are __restricted 
    { 
     Vec8f Gs = Vec8f().load(&D[j]) - Vec8f().load(&B[j]); 
     Vec8f Gc = Vec8f().load(&A[j]) - Vec8f().load(&C[j]); 
     Vec8f invec = atan(Gs, Gc); 
     invec.store(&in[j]); 
    } 
    for(int j=ROUND_DOWN(H*W,8); j<H*W; j++) { 
     float Gs = D[j]-B[j]; 
     float Gc = A[j]-C[j]; 
     in[j]=atan2f(Gs,Gc); 
    } 

} 

自己做矢量化的一個挑戰是找到一個SIMD數學庫（例如atan2f）。 vectorclass支持3個選項。非SIMD，AMD的LIBM和Intel的SVML（我在上面的代碼中使用了非SIMD選項）。 SIMD math libraries for SSE and AVX

您可能要考慮的最後一些評論。 Visual Studio具有自動並行化（默認關閉）以及自動矢量化（默認情況下，至少在發佈模式下）。你可以試試這個，而不是OpenMP來減少代碼膨脹。 http://msdn.microsoft.com/en-us/library/hh872235.aspx

另外，Microsoft有並行模式庫。由於微軟的OpenMP支持有限，因此值得關注。這幾乎與OpenMP一樣易於使用。有可能這些選項中的一個更適合自動矢量化（儘管我懷疑它）。就像我說的那樣，我會使用vectorclass手動進行矢量化。

Answer 2

您可以嘗試循環，而不是展開的sections（？）：

#pragma omp parallel for 
for (int j = 0; j < H*W; j += outer_stride)//A,B,C,D,IN are __restricted 
{ 
    for (int ii = 0; ii < outer_stride; ii++) { 
    float Gs = D[j+ii]-B[j+ii]; 
    float Gc = A[j+ii]-C[j+ii]; 
    in[j+ii] = atan2f(Gs,Gc); 
    } 
} 

其中outer_stride是您的SIMD產品線的合適倍數。另外，你可能會發現這個answer有用。