我有一个很大的uint8_t数组(大小= 1824 * 942)。我想对每个元素执行相同的操作。特别是我需要从每个元素中减去-15。
此数组每秒刷新20次,所以时间是个问题,我要避免在数组上循环。
是否有简单的方法可以做到这一点?
您可以只编写带有普通循环的函数:
void add(uint8_t* a, size_t a_len, uint8_t b) {
for(uint8_t* ae = a + a_len; a < ae; ++a)
*a += b;
}
并且希望编译器为您进行矢量化处理,请参见assembly。
std::for_each
和std::transform
的解决方案,例如:
void add(uint8_t* a, size_t a_len, uint8_t b) {
std::transform(a, a + a_len, a, [b](auto value) { return value + b; });
}
应该生成完全相同的代码,但有时它们不会。
[[更新]
出于好奇,我对以下解决方案进行了基准测试:
#include <benchmark/benchmark.h>
#include <cstdint>
#include <array>
#include <algorithm>
#include <immintrin.h>
constexpr size_t SIZE = 1824 * 942;
alignas(32) std::array<uint8_t, SIZE> A;
__attribute__((noinline)) void add_loop(uint8_t* a, size_t a_len, uint8_t b) {
for(uint8_t* ae = a + a_len; a < ae; ++a)
*a += b;
}
__attribute__((noinline)) void add_loop_4way(uint8_t* a, size_t a_len, uint8_t b) {
a_len /= 4;
for(uint8_t* ae = a + a_len; a < ae; ++a) {
a[a_len * 0] += b;
a[a_len * 1] += b;
a[a_len * 2] += b;
a[a_len * 3] += b;
}
}
__attribute__((noinline)) void add_transform(uint8_t* a, size_t a_len, uint8_t b) {
std::transform(a, a + a_len, a, [b](auto value) { return value + b; });
}
inline void add_sse_(__m128i* sse_a, size_t a_len, uint8_t b) {
__m128i sse_b = _mm_set1_epi8(b);
for(__m128i* ae = sse_a + a_len / (sizeof *sse_a / sizeof b); sse_a < ae; ++sse_a)
*sse_a = _mm_add_epi8(*sse_a, sse_b);
}
__attribute__((noinline)) void add_sse(uint8_t* a, size_t a_len, uint8_t b) {
add_sse_(reinterpret_cast<__m128i*>(a), a_len, b);
}
inline void add_avx_(__m256i* avx_a, size_t a_len, uint8_t b) {
__m256i avx_b = _mm256_set1_epi8(b);
for(__m256i* ae = avx_a + a_len / (sizeof *avx_a / sizeof b); avx_a < ae; ++avx_a)
*avx_a = _mm256_add_epi8(*avx_a, avx_b);
}
__attribute__((noinline)) void add_avx(uint8_t* a, size_t a_len, uint8_t b) {
add_avx_(reinterpret_cast<__m256i*>(a), a_len, b);
}
template<decltype(&add_loop) F>
void B(benchmark::State& state) {
for(auto _ : state)
F(A.data(), A.size(), 15);
}
BENCHMARK_TEMPLATE(B, add_loop);
BENCHMARK_TEMPLATE(B, add_loop_4way);
BENCHMARK_TEMPLATE(B, add_transform);
BENCHMARK_TEMPLATE(B, add_sse);
BENCHMARK_TEMPLATE(B, add_avx);
BENCHMARK_MAIN();
[在i7-7700k CPU和g++-8.3 -DNDEBUG -O3 -march=native -mtune=native
上的结果:
------------------------------------------------------------------
Benchmark Time CPU Iterations
------------------------------------------------------------------
B<add_loop> 31589 ns 31589 ns 21981
B<add_loop_4way> 30030 ns 30030 ns 23265
B<add_transform> 31590 ns 31589 ns 22159
B<add_sse> 39993 ns 39992 ns 17403
B<add_avx> 31588 ns 31587 ns 22161
循环,转换和AVX2版本的时间几乎相同。
SSE版本较慢,因为编译器生成的AVX2代码更快。
perf report
报告〜50%的L1d缓存未命中率,这表明该算法因内存访问而成为瓶颈。现代的CPU可以同时处理多个内存访问,因此您可以通过并行访问4个内存区域来压缩这里约5%的性能,这就是4路循环所做的(对于您特定的数组大小,4路是最快的)。有关更多详细信息,请参见Memory-level parallelism: Intel Skylake versus Intel Cannonlake。
您可以使用std::for_each
:
uint8_t value = 15;
std::for_each(std::begin(nums), std::end(nums), [value](uint8_t& num) { num -= value; });
其中nums是uint8_t的数组。
这应该是最快的方法:
#include <iostream>
#include <cstdint>
#include <array>
#include <algorithm>
#include <execution>
int main() {
constexpr size_t size = 1824 * 942;
uint16_t input{};
std::cout << "Initialize with: ";
std::cin >> input;
std::array<uint8_t, size> array{};
std::fill(std::execution::par_unseq, array.begin(), array.end(), input);
std::transform(std::execution::par_unseq,array.begin(), array.end(), array.begin(), [] (const auto& value) { return value + 15; });
std::for_each(array.begin(),array.end(), [] (auto value) {
std::cout << static_cast<uint16_t>(value) << ",";
});
std::cout << "\n";
}
请注意有效行std::transform(std::execution::par_unseq,array.begin(), array.end(), array.begin(), [] (const auto& value) { return value + 15; });
,其余示例仅供参考。
还请注意,由于未指定哪种数组类型,因此可以使用uint8_t array[1924*924];
将内置数组std::array
转换为std::to_array
。
您可以创建一个结构(或类),该结构(或类)将保存该数组中所有元素所共有的参数。
struct nameIt
{
uint8_t* arr;
uint8_t delta;
}