Скалярные операции AVX намного быстрее

Question

Я тестирую следующую простую функцию

void mul(double *a, double *b) {
  for (int i = 0; i<N; i++) a[i] *= b[i];
}

с очень большими массивами, так что это ограничено пропускной способностью памяти. Тестовый код, который я использую ниже. Когда я собираю с -O2 это займет 1,7 секунды. Когда я собираю с -O2 -mavx это займет всего 1,0 секунды. Скалярные операции без кодирования vex выполняются на 70% медленнее! Почему это?

Вот сборка для -O2 а также -O2 -mavx,

Answer 1

Проблема связана с грязной верхней половиной регистра AVX после вызова omp_get_wtime(), Это проблема особенно для процессоров Skylake.

Первый раз, когда я прочитал об этой проблеме, был здесь. С тех пор другие люди наблюдали эту проблему: здесь и здесь.

С помощью gdb я нашел это omp_get_wtime() звонки clock_gettime, Я переписал свой код для использования clock_gettime() и я вижу ту же проблему.

void fix_avx() { __asm__ __volatile__ ( "vzeroupper" : : : ); }
void fix_sse() { }
void (*fix)();

double get_wtime() {
  struct timespec time;
  clock_gettime(CLOCK_MONOTONIC, &time);
  #ifndef  __AVX__ 
  fix();
  #endif
  return time.tv_sec + 1E-9*time.tv_nsec;
}

void dispatch() {
  fix = fix_sse;
  #if defined(__INTEL_COMPILER)
  if (_may_i_use_cpu_feature (_FEATURE_AVX)) fix = fix_avx;
  #else
  #if defined(__GNUC__) && !defined(__clang__)
  __builtin_cpu_init();
  #endif
  if(__builtin_cpu_supports("avx")) fix = fix_avx;
  #endif
}

Пошаговое выполнение кода с gdb Я вижу, что в первый раз clock_gettime называется это вызывает _dl_runtime_resolve_avx(), Я считаю, что проблема заключается в этой функции на основе этого комментария. Эта функция вызывается только в первый раз clock_gettime называется.

С GCC проблема исчезает, используя //__asm__ __volatile__ ( "vzeroupper" : : : ); после первого звонка с clock_gettime однако с Clang (используя clang -O2 -fno-vectorize так как Clang векторизуется даже в -O2) он уходит только после каждого звонка clock_gettime,

Вот код, который я использовал для проверки этого (с GCC 6.3 и Clang 3.8)

#include <string.h>
#include <stdio.h>
#include <x86intrin.h>
#include <time.h>

void fix_avx() { __asm__ __volatile__ ( "vzeroupper" : : : ); }
void fix_sse() { }
void (*fix)();

double get_wtime() {
  struct timespec time;
  clock_gettime(CLOCK_MONOTONIC, &time);
  #ifndef  __AVX__ 
  fix();
  #endif
  return time.tv_sec + 1E-9*time.tv_nsec;
}

void dispatch() {
  fix = fix_sse;
  #if defined(__INTEL_COMPILER)
  if (_may_i_use_cpu_feature (_FEATURE_AVX)) fix = fix_avx;
  #else
  #if defined(__GNUC__) && !defined(__clang__)
  __builtin_cpu_init();
  #endif
  if(__builtin_cpu_supports("avx")) fix = fix_avx;
  #endif
}

#define N 1000000
#define R 1000

void mul(double *a, double *b) {
  for (int i = 0; i<N; i++) a[i] *= b[i];
}

int main() {
  dispatch();
  const double mem = 3*sizeof(double)*N*R/1024/1024/1024;
  const double maxbw = 34.1;

  double *a = (double*)_mm_malloc(sizeof *a * N, 32);
  double *b = (double*)_mm_malloc(sizeof *b * N, 32);

  //b must be initialized to get the correct bandwidth!!!
  memset(a, 1, sizeof *a * N);
  memset(b, 1, sizeof *b * N);

  double dtime;
  //dtime = get_wtime(); // call once to fix GCC
  //printf("%f\n", dtime);
  //fix = fix_sse;

  dtime = -get_wtime();
  for(int i=0; i<R; i++) mul(a,b);
  dtime += get_wtime();
  printf("time %.2f s, %.1f GB/s, efficency %.1f%%\n", dtime, mem/dtime, 100*mem/dtime/maxbw);

  _mm_free(a), _mm_free(b);
}

---

Если я отключаю ленивое разрешение вызова функции с -z now (например clang -O2 -fno-vectorize -z now foo.c) тогда лязг нужен только __asm__ __volatile__ ( "vzeroupper" : : : ); после первого звонка clock_gettime так же, как GCC.

Я ожидал, что с -z now Мне бы только нужно __asm__ __volatile__ ( "vzeroupper" : : : ); сразу после main() но мне все еще нужно после первого звонка clock_gettime,