Заканчивая неделю ZFS
Заканчивая неделю (или полуторамесячник) ZFS, финальные тесты. Списал данные, добавил еще один диск, прежде чем возвращать данные - маленько потестировал
Оборудование: i3-6300T, 32GB RAM, 7 дисков (6Tb HGST: 4 штуки 7k6000 и 3 штуки He8), диски подключены к чипсетному контроллеру (Intel C236).
Окружение: FreeBSD 11.0-p4
Методика: собираем пул, делаем на нем один датасет с размером блока 1m или 128к, пишем 200-гигабайтный файл
dd if=/dev/zero of=/zdata/testset bs=1m count=200k
Затем читаем этот файл той же командой dd в /dev/nul с мегабайтным же размером блока.
Из 6 или 7 дисков можно составить разные комбинации, я пробовал не все, меня интересовал в первую очередь raidz2, остальные - ну "до кучи". Результаты в таблице - в десятичных мегабайтах (10^6 байт):
recordsize=1m |
recordsize=128k |
|||
Конфигурация |
read |
write |
read |
write |
6xHDD, RAIDZ2 |
753 |
735 |
747 |
737 |
7xHDD RAIDZ3 |
757 |
732 |
773 |
735 |
7xHDD RAIDZ2 |
902 |
919 |
767 |
849 |
7xHDD RAIDZ1 |
1,005 |
579 |
1,012 |
1,064 |
7xHDD stripe |
1,276 |
1,284 |
1,217 |
1,282 |
Жирным выделены результаты, которые мне не понравились (слишком медленно) и я перетестировал второй раз. Они повторились (ну с точностью в 2-3%)
За исключением выделенного и вообще всей строчки 7xHDD, RAIDZ1, скорости "в расчете на один шпиндель" очень близки, 183-193 MB/s на шпиндель, что довольно близко к тому, что можно получить с дисков He8 (196Mb/sec в начале диска). У 7-дискового raidz1 пишут в комментариях про неудачный паттерн.
Отчего так просели выделенные места - не знаю, неудачно встали звезды (размазались размеры I/O по дискам).
Comments
Не, ту в самом деле, это
Не, ту в самом деле, это первый раз я такое в этом блоге читаю: "звезды неудачно встали"!
За что и читал всегда что как в детективе - всегда расследование завершалось и перед нами представала картина преступления во всех красках ;)
Если бы эта конфигурация меня
Если бы эта конфигурация меня интересовала - я бы разобрался бы, ну или бы попробовал.
Но у меня 7xhdd,raidz2 а у него все хорошо (на большом размере записи).
Реально ZFS шибко сложная и оптимизации там шибко умные, поэтому неудачная конфигурация (интерференция с оптимизацией) может укусить.
753/4=188MB/s и 188/195=96% -
753/4=188MB/s и 188/195=96% - очень хороший результат. Подкрутил "гайки" или удачно "использовались" 4 7k6000 и 2 HE8?
Табличка получилась красиво-показательная. А как raidz2 справляется с 2 потоками чтения?
Гайки не крутил, пока отложил
Гайки не крутил, пока отложил. "стоковая" FreeBSD 11.0-p4
Два потока чтения, или один поток записи + 1 чтения - относительно комфортны. Видно что на сервере кто-то еще есть, но одновременно писать 400 (источник больше не может) и читать ~150 получается.
(вернувшись из 23-х дней во
(вернувшись из 23-х дней во Вьетнаме, за которые мы нифига не посмотрели и 1/3 страны)
А ты вообще вот то, что выглядит как сломанное (предыдущие посты) отрепортил?
починили уже
починили уже
А ссылки на коммит под рукой
А ссылки на коммит под рукой нет? Я могу, конечно, весь лог прошерстить, но может у тебя она вот прямо рядом?
Вроде вот: https://svnweb
Вроде вот: https://svnweb.freebsd.org/base?view=revision&revision=310105
Но я больше не играю в -stable/-current, поэтому не проверял