AVX2 и VPGATHERDD - продолжение

Продолжаем дневник программиста на AVX2 (начало и продолжение).

Добрался до 4-го места, которое хотелось пооптимизировать окончательно уже года два как: берем 16-битные целые (RAW-данные), конвертируем в плавучку, вычитаем черный, результат записываем. То есть первый этап дебайеризации.

Параллельно считаем RAW-гистограмму и карту пересвета-недосвета (на самом деле там карта экспозиции считается, а не просто пересвет-недосвет, а дальше она визуализируется с лимитами, все что выше/ниже лимита раскрашивается.).

Вот в этом месте VPGATHERDD (из RAW-значений в экспозицию по LUT) внезапно дал выигрыш процентов в 6% (меряю тремя замерами, разброс между ними больше, это усредненные 6%).

И, что приятно, сократился код, вместо cN = table[value[N]] (и так 8 раз, по числу элементов в векторе) стала одна команда. Аналогично и с записью, вместо побайтовой или пословной записи результата (смешно, но скорость выполенения не отличалсь значимо) - одна строчка на которую приятно посмотреть:

shuffle_mask собирает в кучку значащие байты из 32-битных слов, permute_mask ставит их в начало слова:

Не могу не передать пару ласковых слов автору _mm256_unpacklo_epi16: там где в 128-битном SSE был просто unpacklo, там в 256-битном варианте нужно еще попереставлять байтики, потому что два 128-битных регистра (половинки YMM) - это не один 256-битный и работает оно не так.

Но главный спидап в этом месте оказался от замены _mm_store_ps() на _mm_stream_ps(), одно это место ускорило 128-битный вариант процентов на 25 и дальнейшие улучшения с gather и 256-битностью на фоне общего ускорения от stream - практически не видны.

Результат всех оптимизаций смешной: на жатых RAW форматах мы теперь абсолютно упираемся в декомпрессор (который для Huffman не параллелится совсем), ну разве только для tiled DNG не упираемся. А на нежатых (вроде Sony uncompressed) - упираемся в скорость единичной SSD-шки, при 82Mb x 5fps определяющим местом опять становится диск. И таки да, для нежатых Sony вместо 4-4.5fps теперь 5 с небольшими копейками. Было за что биться.

Посмотрим что будет на Skylake: на присмотренном девайсе скорость чтения диска вроде вовсе не ограничивает, увидим во что упремся там.