我有SSSE3做到了这一点,现在我不知道这可能是与AVX2做有更好的表现?
我跟一个零字节填充24位RGB,使用从Fast 24-bit array -> 32-bit array conversion?代码。
static const __m128i mask = _mm_setr_epi8(0, 1, 2, -1, 3, 4, 5, -1, 6, 7, 8, -1, 9, 10, 11, -1);
for (size_t row = 0; row < height; ++row)
{
for (size_t column = 0; column < width; column += 16)
{
const __m128i *src = reinterpret_cast<const __m128i *>(in + row * in_pitch + column + (column << 1));
__m128i *dst = reinterpret_cast<__m128i *>(out + row * out_pitch + (column << 2));
__m128i v[4];
v[0] = _mm_load_si128(src);
v[1] = _mm_load_si128(src + 1);
v[2] = _mm_load_si128(src + 2);
v[3] = _mm_shuffle_epi8(v[0], mask);
_mm_store_si128(dst, v[3]);
v[3] = _mm_shuffle_epi8(_mm_alignr_epi8(v[1], v[0], 12), mask);
_mm_store_si128(dst + 1, v[3]);
v[3] = _mm_shuffle_epi8(_mm_alignr_epi8(v[2], v[1], 8), mask);
_mm_store_si128(dst + 2, v[3]);
v[3] = _mm_shuffle_epi8(_mm_alignr_epi8(v[2], v[2], 4), mask);
_mm_store_si128(dst + 3, v[3]);
}
}
问题是,_mm256_shuffle_epi8洗牌高128位和128位的低分别所以掩模不能只是替换
_mm256_setr_epi8(0, 1, 2, -1, 3, 4, 5, -1, 6, 7, 8, -1, 9, 10, 11, -1, 12, 13, 14, -1, 15, 16, 17, -1, 18, 19, 20, -1, 21, 22, 23, -1);
也_mm_alignr_epi8
需要与_mm256_permute2x128_si256
和_mm256_alignr_epi8
被替换
可以在一个时间(24个输入字节和32个输出字节)与AVX2处理8个像素合理有效地。
你只需要调整你的负载,让你将处理像素的24字节块的32字节的负载的中间,而不是负载对准pixels2块的开始通常的做法是居中。这意味着车道边界将下降像素4和5之间,你就会有字节在每个车道恰好4个像素。用适当的洗牌面具相结合,这应该是两倍,SSE高效。
例如:
鉴于uint8_t input[]
你处理的前四个像素与非SIMD代码1,然后在input[8]
做你的第一个32字节的负载,以便与低位车道(字节0-15)获取像素4,5的12个有效载荷字节的输入指针, 6,7在其高位字节,通过在高车道下一4个像素的下一个12个有效负载字节紧接着。然后使用pshufb
的像素扩展到正确的位置(你需要一个不同的面具每个车道,因为你是在向更低位置的低车道移动pixes,和那些在高道更高的位置,但是这并未”牛逼造成问题)。然后下一个负载将是在input[26]
(24个字节以后)等。
你应该得到每个周期的吞吐量约8个象素这种方法,对于完全缓存输入/输出 - 限制在1 /自行车店吞吐量和1 /周期洗牌吞吐量。幸运的是,这种方法是与总是对准的存储(由于商店增量是32个字节)兼容。你将有一些错位的负荷,但这些仍然可以以1 /周期发生这样不应该是一个瓶颈。
值得一提的是,这种类型的方法“只能使用一次”的SIMD指令集拉大的方面:当你有2条车道,而不是更多的(所以同样的想法并不适用于512位AVX512有4 128它的工作原理位车道)。
1本可避免读出输入数组前界限:如果你知道这是安全的,你能避免这一步。
2That是,如果你从addr
加载它是addr + 16
应该是在像素边界((addr + 16) % 12 == 0
),不addr
。
原来这里是SSSE3代码,用我自己的一些调度的抛出。
void DspConvertPcm(f32* pOutBuffer, const s24* pInBuffer, size_t totalSampleCount)
{
constexpr f32 fScale = static_cast<f32>(1.0 / (1<<23));
size_t i = 0;
size_t vecSampleCount = 0;
#if defined(SFTL_SSE2)
if (CpuInfo::GetSupports_SIMD_I32x8())
{
vecSampleCount = DspConvertPcm_AVX2(pOutBuffer, pInBuffer, totalSampleCount);
}
else
if (CpuInfo::GetSupports_SSE3())
{
const auto vScale = _mm_set1_ps(fScale);
const auto mask = _mm_setr_epi8(-1, 0, 1, 2, -1, 3, 4, 5, -1, 6, 7, 8, -1, 9, 10, 11);
constexpr size_t step = 16;
vecSampleCount = (totalSampleCount / step) * step;
for (; i < vecSampleCount; i += step)
{
const auto* pSrc = reinterpret_cast<const __m128i*>(pInBuffer + i);
auto* pDst = pOutBuffer + i;
const auto sa = _mm_loadu_si128(pSrc + 0);
const auto sb = _mm_loadu_si128(pSrc + 1);
const auto sc = _mm_loadu_si128(pSrc + 2);
const auto da = _mm_srai_epi32(_mm_shuffle_epi8(sa, mask), 8);
const auto db = _mm_srai_epi32(_mm_shuffle_epi8(_mm_alignr_epi8(sb, sa, 12), mask), 8);
const auto dc = _mm_srai_epi32(_mm_shuffle_epi8(_mm_alignr_epi8(sc, sb, 8), mask), 8);
const auto dd = _mm_srai_epi32(_mm_shuffle_epi8(_mm_alignr_epi8(sc, sc, 4), mask), 8);
// Convert to float and store
_mm_storeu_ps(pDst + 0, _mm_mul_ps(_mm_cvtepi32_ps(da), vScale));
_mm_storeu_ps(pDst + 4, _mm_mul_ps(_mm_cvtepi32_ps(db), vScale));
_mm_storeu_ps(pDst + 8, _mm_mul_ps(_mm_cvtepi32_ps(dc), vScale));
_mm_storeu_ps(pDst + 12, _mm_mul_ps(_mm_cvtepi32_ps(dd), vScale));
}
}
#endif
for (; i < totalSampleCount; i += 1)
{
pOutBuffer[i] = (static_cast<s32>(pInBuffer[i])) * fScale;
}
}
如果AVX2是存在,它会调用到DspConvertPcm_AVX2,它看起来像这样:
size_t DspConvertPcm_AVX2(f32* pOutBuffer, const s24* pInBuffer, size_t totalSampleCount)
{
SFTL_ASSERT(CpuInfo::GetSupports_SIMD_I32x8());
constexpr f32 fScale = static_cast<f32>(1.0 / (1 << 23));
const auto vScale = _mm256_set1_ps(fScale);
auto fnDo16Samples = [vScale](f32* pOutBuffer, const s24* pInBuffer)
{
const auto vScaleSSE = _mm256_castps256_ps128(vScale);
const auto mask = _mm_setr_epi8(-1, 0, 1, 2, -1, 3, 4, 5, -1, 6, 7, 8, -1, 9, 10, 11);
const auto* pSrc = reinterpret_cast<const __m128i*>(pInBuffer);
auto* pDst = pOutBuffer;
const auto sa = _mm_loadu_si128(pSrc + 0);
const auto sb = _mm_loadu_si128(pSrc + 1);
const auto sc = _mm_loadu_si128(pSrc + 2);
const auto da = _mm_srai_epi32(_mm_shuffle_epi8(sa, mask), 8);
const auto db = _mm_srai_epi32(_mm_shuffle_epi8(_mm_alignr_epi8(sb, sa, 12), mask), 8);
const auto dc = _mm_srai_epi32(_mm_shuffle_epi8(_mm_alignr_epi8(sc, sb, 8), mask), 8);
const auto dd = _mm_srai_epi32(_mm_shuffle_epi8(_mm_alignr_epi8(sc, sc, 4), mask), 8);
// Convert to float and store
_mm_storeu_ps(pDst + 0, _mm_mul_ps(_mm_cvtepi32_ps(da), vScaleSSE));
_mm_storeu_ps(pDst + 4, _mm_mul_ps(_mm_cvtepi32_ps(db), vScaleSSE));
_mm_storeu_ps(pDst + 8, _mm_mul_ps(_mm_cvtepi32_ps(dc), vScaleSSE));
_mm_storeu_ps(pDst + 12, _mm_mul_ps(_mm_cvtepi32_ps(dd), vScaleSSE));
};
// First 16 samples SSE style
fnDo16Samples(pOutBuffer, pInBuffer);
// Next samples do AVX, where each load will discard 4 bytes at the start and end of each load
constexpr size_t step = 16;
const size_t vecSampleCount = ((totalSampleCount / step) * step) - 16;
{
const auto mask = _mm256_setr_epi8(-1, 4, 5, 6, -1, 7, 8, 9, -1, 10, 11, 12, -1, 13, 14, 15, -1, 16, 17, 18, -1, 19, 20, 21, -1, 22, 23, 24, -1, 25, 26, 27);
for (size_t i = 16; i < vecSampleCount; i += step)
{
const byte* pByteBuffer = reinterpret_cast<const byte*>(pInBuffer + i);
auto* pDst = pOutBuffer + i;
const auto vs24_00_07 = _mm256_loadu_si256(reinterpret_cast<const __m256i*>(pByteBuffer - 4));
const auto vs24_07_15 = _mm256_loadu_si256(reinterpret_cast<const __m256i*>(pByteBuffer - 24));
const auto vf32_00_07 = _mm256_srai_epi32(_mm256_shuffle_epi8(vs24_00_07, mask), 8);
const auto vf32_07_15 = _mm256_srai_epi32(_mm256_shuffle_epi8(vs24_07_15, mask), 8);
// Convert to float and store
_mm256_storeu_ps(pDst + 0, _mm256_mul_ps(_mm256_cvtepi32_ps(vf32_00_07), vScale));
_mm256_storeu_ps(pDst + 8, _mm256_mul_ps(_mm256_cvtepi32_ps(vf32_00_07), vScale));
}
}
// Last 16 samples SSE style
fnDo16Samples(pOutBuffer + vecSampleCount, pInBuffer + vecSampleCount);
return vecSampleCount;
}
请注意,我做的AVX2主循环的一个手动展开,试图加快步伐了一点,但它并没有真正的问题太多。
随着计时器只是调用DspConvertPcm,这一次处理1024个样本之前捆好,在这里与AVX2代码路径的平均处理时间将启用2.6和3.0微秒之间变化。在另一方面,如果我禁用AVX2代码路径的平均时间徘徊在2.0微秒。
在另一方面,使VEX编码使用/弓:AVX2没给我,我先前的声明一致的性能提升,这样就必须是侥幸。
该测试是使用上的Visual Studio 15.9.5默认MSVC编译器速度启用优化,并使用/ FP上的Haswell核心i7-6700HQ @ 2.6 GHz完成:快。