英特尔C编译器使用带对齐内存的未对齐SIMD移动

问题描述 投票：3回答：2

我使用的是Haswell Core i7-4790K。

当我使用icc -O3 -std=c99 -march=core-avx2 -g编译以下玩具示例时：

#include <stdio.h>
#include <stdint.h>
#include <immintrin.h>

typedef struct {
  __m256i a;
  __m256i b;
  __m256i c;
} mystruct_t;

#define SIZE     1000
#define TEST_VAL 42

int _do(mystruct_t* array) {
  int value = 0;

  for (size_t i = 0; i < SIZE; ++i) {
    array[i].a = _mm256_set1_epi8(TEST_VAL + i*3    );
    array[i].b = _mm256_set1_epi8(TEST_VAL + i*3 + 1);
    array[i].c = _mm256_set1_epi8(TEST_VAL + i*3 + 2);

    value += _mm_popcnt_u32(_mm256_movemask_epi8(array[i].a)) +
             _mm_popcnt_u32(_mm256_movemask_epi8(array[i].b)) +
             _mm_popcnt_u32(_mm256_movemask_epi8(array[i].c));
  }

  return value;
}

int main() {
  mystruct_t* array = (mystruct_t*)_mm_malloc(SIZE * sizeof(*array), 32);
  printf("%d\n", _do(array));
  _mm_free(array);
}

为_do()函数生成以下ASM代码：

0x0000000000400bc0 <+0>:    xor    %eax,%eax
0x0000000000400bc2 <+2>:    xor    %ecx,%ecx
0x0000000000400bc4 <+4>:    xor    %edx,%edx
0x0000000000400bc6 <+6>:    nopl   (%rax)
0x0000000000400bc9 <+9>:    nopl    0x0(%rax)
0x0000000000400bd0 <+16>:   lea     0x2b(%rdx),%r8d
0x0000000000400bd4 <+20>:   inc    %ecx
0x0000000000400bd6 <+22>:   lea     0x2a(%rdx),%esi
0x0000000000400bd9 <+25>:   lea     0x2c(%rdx),%r9d
0x0000000000400bdd <+29>:   add    $0x3,%edx
0x0000000000400be0 <+32>:   vmovd  %r8d,%xmm1
0x0000000000400be5 <+37>:   vpbroadcastb %xmm1,%ymm4
0x0000000000400bea <+42>:   vmovd  %esi,%xmm0
0x0000000000400bee <+46>:   vpmovmskb %ymm4,%r11d
0x0000000000400bf2 <+50>:   vmovd  %r9d,%xmm2
0x0000000000400bf7 <+55>:   vmovdqu %ymm4,0x20(%rdi)
0x0000000000400bfc <+60>:   vpbroadcastb %xmm0,%ymm3
0x0000000000400c01 <+65>:   vpbroadcastb %xmm2,%ymm5
0x0000000000400c06 <+70>:   vpmovmskb %ymm3,%r10d
0x0000000000400c0a <+74>:   vmovdqu %ymm3,(%rdi)
0x0000000000400c0e <+78>:   vmovdqu %ymm5,0x40(%rdi)
0x0000000000400c13 <+83>:   popcnt %r11d,%esi
0x0000000000400c18 <+88>:   add    $0x60,%rdi
0x0000000000400c1c <+92>:   vpmovmskb %ymm5,%r11d
0x0000000000400c20 <+96>:   popcnt %r10d,%r9d
0x0000000000400c25 <+101>:  popcnt %r11d,%r8d
0x0000000000400c2a <+106>:  add    %esi,%r9d
0x0000000000400c2d <+109>:  add    %r8d,%r9d
0x0000000000400c30 <+112>:  add    %r9d,%eax
0x0000000000400c33 <+115>:  cmp    $0x3e8,%ecx
0x0000000000400c39 <+121>:  jb      0x400bd0 <_do+16>
0x0000000000400c3b <+123>:  vzeroupper 
0x0000000000400c3e <+126>:  retq   
0x0000000000400c3f <+127>:  nop

如果我使用gcc-5 -O3 -std=c99 -mavx2 -march=native -g编译相同的代码，则会为_do()函数生成以下ASM代码：

0x0000000000400650 <+0>:    lea     0x17700(%rdi),%r9
0x0000000000400657 <+7>:    mov    $0x2a,%r8d
0x000000000040065d <+13>:   xor    %eax,%eax
0x000000000040065f <+15>:   nop
0x0000000000400660 <+16>:   lea     0x1(%r8),%edx
0x0000000000400664 <+20>:   vmovd  %r8d,%xmm2
0x0000000000400669 <+25>:   xor    %esi,%esi
0x000000000040066b <+27>:   vpbroadcastb %xmm2,%ymm2
0x0000000000400670 <+32>:   vmovd  %edx,%xmm1
0x0000000000400674 <+36>:   add    $0x60,%rdi
0x0000000000400678 <+40>:   lea     0x2(%r8),%edx
0x000000000040067c <+44>:   vpbroadcastb %xmm1,%ymm1
0x0000000000400681 <+49>:   vmovdqa %ymm2,-0x60(%rdi)
0x0000000000400686 <+54>:   add    $0x3,%r8d
0x000000000040068a <+58>:   vmovd  %edx,%xmm0
0x000000000040068e <+62>:   vpmovmskb %ymm2,%edx
0x0000000000400692 <+66>:   vmovdqa %ymm1,-0x40(%rdi)
0x0000000000400697 <+71>:   vpbroadcastb %xmm0,%ymm0
0x000000000040069c <+76>:   popcnt %edx,%esi
0x00000000004006a0 <+80>:   vpmovmskb %ymm1,%edx
0x00000000004006a4 <+84>:   popcnt %edx,%edx
0x00000000004006a8 <+88>:   vpmovmskb %ymm0,%ecx
0x00000000004006ac <+92>:   add    %esi,%edx
0x00000000004006ae <+94>:   vmovdqa %ymm0,-0x20(%rdi)
0x00000000004006b3 <+99>:   popcnt %ecx,%ecx
0x00000000004006b7 <+103>:  add    %ecx,%edx
0x00000000004006b9 <+105>:  add    %edx,%eax
0x00000000004006bb <+107>:  cmp    %rdi,%r9
0x00000000004006be <+110>:  jne     0x400660 <_do+16>
0x00000000004006c0 <+112>:  vzeroupper 
0x00000000004006c3 <+115>:  retq

我的问题是：

1）为什么icc使用与gcc不同的未对齐移动（vmovdqu）？

2）在对齐的内存上使用vmovdqu而不是vmovdqa时是否会受到惩罚？

P.S：使用SSE指令/寄存器的问题是相同的。

谢谢

intel sse memory-alignment intrinsics avx
2个回答
6
投票

当地址对齐时，使用VMOVDQU不会受到惩罚。在这种情况下，行为与使用VMOVDQA相同。

至于“为什么”，可能没有一个明确的答案。 ICC可能故意这样做，以便后来用未对齐的参数调用_do的用户不会崩溃，但它也可能只是编译器的紧急行为。英特尔编译器团队中的某个人可以回答这个问题，我们其他人只能推测。

3
投票

有三个因素可以解决更大的问题：

a）错误行为可能有利于调试性能但不如生产代码好 - 特别是当涉及第三方库的混合时 - 很少会因客户站点上的软件产品性能略微降低而崩溃

b）英特尔微体系结构解决了从Nehalem开始的对齐数据性能问题的“未对齐”指令形式，它们与“对齐”形式的性能相同，AMD甚至在此之前就已经做到了

c）AVX +将SSE上的Load + OP形式的架构行为改进为非故障，因此

VADDPS ymm0, ymm0, ymmword ptr [rax]; // no longer faults when rax is misaligned

因为对于AVX +，我们希望编译器在从内在函数生成代码时仍然可以使用独立或加载+ OP指令表单，例如：

_mm256_add_ps( a, *(__m256*)data_ptr  );

使用AVX +，编译器可以将vMOVU（VMOVUPS / VMOVUPD / VMOVDQU）用于所有负载，并使用Load + OP表单保持统一的行为

当源代码稍微改变或者相同代码的代码生成发生变化（例如，在不同的编译器/版本之间或由于内联）和代码生成从Load + OP指令切换到独立的Load和OP指令时，需要它，行为负载与Load + OP相同，即非故障。

因此，具有上述编译器实践的AVX和使用“未对齐”存储指令形式总体上允许SIMD代码具有统一的非故障行为，而没有对齐数据的性能损失。

当然，仍存在（相对罕见的）非临时存储的使用目标指令（vMOVNTDQ / vMOVNTPS / vMOVNTPD）以及来自WC类型的存储器（vMOVNDQA）的加载，其维持未对齐地址的错误行为。

-Max Locktyukhin，英特尔

最新问题
© www.soinside.com 2019 - 2024. All rights reserved.