Свежие комментарии

Title Comment
Да, буду делать.

Да, буду делать.

И, возможно, поиграть с размером L2ARC. Я вот размахнулся, а наверное надо гигов с 20 начать.

Попробовать поиграть с

Попробовать поиграть с recordsize на датасетах, с которых идёт чтение?

Не-не, MPEG и прочие подобные

Не-не, MPEG и прочие подобные - они аппаратно поддержаны. И там API: туда нежатые байты, обратно - жатые. Программно на камерах, понятно, ничего не жмут, процессор слаб.

А когда что-то там конструируют (нашли на свалке сенсор и давай...) или хакают фирмварь готовой камеры, чтобы использовать сенсор неподобающим путем (CHDK, DiagRAW, всякие записи DNG из айфонов), то
- особого места чтобы разгуляться - нету.
- эффективность "на маленьких кусочках" - важна (откуда и появилась, похоже, запись "6 10-битных пикселов в 8 байтах" - эффективно ложится на 64-битную архитектуру, а 1/16 оверхеда - ну насрать)

И "14 бит плотных" (это сколько ж, 4 пиксела в 7 байт, верно?) - ну херовый очень кодек для современных 64-(и тем более 128-256-битных SIMD).
Какой нужно взять блок, чтобы оно эффективно на AVX2 ложилось (256 бит)? Я меньшего куска, чем 224 байта (это 128 пикселов зараз) не придумал, а столько регистров нету.

А, не знал. Хотя какой там

А, не знал. Хотя какой там гемморой -- ну битстрим вместо байтстрима, делов-то, всё семейство стандартов MPEG на самом низком уровне -- битовые поля, а не байтовые, и ничего, живут.

А не бывает 14-bit

А не бывает 14-bit uncompressed.
То есть оно "бывает" (та же Sony), но пишут в 16-битном формате тогда, верхние два бита - нули.

Потому что экономия от упаковки копеечная, а геморой на распаковке - просто ой.

Праздное любопытство -- а

Праздное любопытство -- а посему нет 14 бит? Вроде такие сенсоры бывают.

Такая экзотическая хрень

Такая экзотическая хрень нужна разработчикам камер и прошивок для них (включая всякие хаки, вроде DiagRAW)

Ну и пользователям подобных хак-прошивок.

не понимаю, зачем нужна такая

не понимаю, зачем нужна такая экзотическая хрень. хотите быстро просматривать рав? поставьте ssd

Выражаю особую благодорность

Выражаю особую благодорность за создание данной возможности.

Если разница в window size,

Если разница в window size, значит оно где-то (Linux, Windows, оба) не разгоняется (как положено новыми TCP ext) до вменяемых для 10G значений.

FreeBSD лежит в обычном месте: ftp://ftp.freebsd.org/pub/FreeBSD/releases/amd64/amd64/ISO-IMAGES/11.0/
(-memstick поди решит задачу)

Загрузиться с LiveUSB у меня

Загрузиться с LiveUSB у меня так и не вышло - ни один из современных дистрибутивов почему-то не взлетел в графическом режиме, а в текстовом я свежих не нашёл. Чертовщина какая-то... Искать дальше уже не стал, отложу на потом, когда фаза Луны сменится :)

Вот как-то так получилось с винды на VM линукс.

Т.е. честных 10G там есть, надо только нагружать правильно.

собственно, svn revision

собственно, svn revision видна ж

Но про FreeBSD 11 я наврал.

Но про FreeBSD 11 я наврал. Там -CURRENT:

root@iscsi:/home/lexa # uname -a
FreeBSD iscsi.lexa.ru 12.0-CURRENT FreeBSD 12.0-CURRENT #4 r302772M: Wed Jul 13 21:38:55 MSK 2016     root@iscsi.lexa.ru:/usr/obj/usr/src/sys/GENERIC  amd64

 

А на другой стороне так:

lexa@home-gw:~# uname -a
FreeBSD home-gw.lexa.ru 10.3-STABLE FreeBSD 10.3-STABLE #11 r300047M: Tue May 17 16:19:12 MSK 2016     lexa@home-gw.lexa.ru:/usr/obj/usr/src/sys/GENERIC  amd64

 

Дата сборки ядра примерно равна дате svn up

Кстати, и с -d стало

Кстати, и с -d стало нормально (я с тех пор на FreeBSD-11 ядро пересобрал без расширенных проверок, может в этом дело):

root@iscsi:/home/lexa # iperf -c 10.5.0.1 -t 10 -d

...
[ ID] Interval       Transfer     Bandwidth
[  4]  0.0-10.0 sec  11.4 GBytes  9.76 Gbits/sec
[  5]  0.0-10.0 sec  11.3 GBytes  9.70 Gbits/sec

 

Да тоже нормально

Да тоже нормально

root@iscsi:/home/lexa # iperf -c 10.5.0.1 -t 60
------------------------------------------------------------
Client connecting to 10.5.0.1, TCP port 5001
TCP window size: 35.0 KByte (default)
------------------------------------------------------------
[  3] local 10.5.0.2 port 53177 connected with 10.5.0.1 port 5001
[ ID] Interval       Transfer     Bandwidth
[  3]  0.0-60.0 sec  69.1 GBytes  9.89 Gbits/sec

 

При этом у меня, конечно так:

ifconfig ix1 10.5.0.2/24 mtu 9000 lro
 

А если просто, без ключей,

А если просто, без ключей, только с "-s" на одной стороне и "-c" на другой - что покажет?

[lexa@iscsi ~]$ pkg info |

[lexa@iscsi ~]$ pkg info | grep iperf
iperf-2.0.5 Tool to measure maximum TCP and UDP bandwidth

В history нашлись такие ключи:
iperf -w 1024k -l 1M -f m -c 10.6.0.1 -i 900 -t 28800

Как-то так, да, буду

Как-то так, да, буду грузиться на обоих боксах с Live-USB и пробовать.
С какими ключами был запущен iperf (какой версии?) на FreeBSD?

>> Пытаюсь понять, кто

>> Пытаюсь понять, кто виноват - винда, линукс, гипервизор, или так и должно быть

Ну я надеюсь - постепенной отменой всего вышеперечисленного?

У меня 9.9 в одну сторону и ~15 в сумме было на FreeBSD/FreeBSD (10-я и 11-я версии)

У меня почему-то не

У меня почему-то не получается выжать 10Gbit, упираюсь в 4.8 примерно, т.е. половину. На одной стороне Linux под гипервизором (X540-T2 проброшена в VM со всеми портами), на другой Win10 на железе.
Если в iperf дам параметр параллельности -P, то в 4-5 потоков упираюсь в 10, дальше не растёт. Пробовал то же самое между виндой под гипервизором и виндой на десктопе - та же абсолютно картина. Пытаюсь понять, кто виноват - винда, линукс, гипервизор, или так и должно быть (т.е. iperf не показатель).

У меня 10G и сеть - быстрее

У меня 10G и сеть - быстрее дисков.

IMHO smb 3.0 между парой

IMHO smb 3.0 между парой windows машин вполне забивает пару гигабитных линков, ноздря в ноздрю с ISCSI

Ага, 12-го немцы отправили,

Ага, 12-го немцы отправили, 13-го оно выехало из Германии, 16-го утром (сегодня) въехало и сразу прошло таможню.
Так ко вторнику и до Питера доберётся.

ну вот я о том же - кэш

ну вот я о том же - кэш оказывается с другой стороны сети.
Гигабайт/сек (на десятке) - это быстро, но память на полтора порядка быстрее по bw и еще (пара порядков?) быстрее по lat.

Дошли руки. Создал папку с

Дошли руки. Создал папку с 11111 реальными файлами. samba по гигабитному линку. Открываю папку на windows 7 стандартным Explorer вид отображения таблица (показывает имя, дату изменения, тип, размер). Первое открытие наверно до секунды (с zpool прочиталось около 2MB, по сети передалось до 1,5MB). Повторное открытие папки - доли секунды (с zpool прочиталось 4kB, по сети передалось до 1,5MB). Практически мгновенно появляется список файлов и затем происходит сортировка по имени (или как задано). Я бы не сказал, что это долго :-). Раньше вообще не обращал на это внимание и не возникало никакого дискомфорта.

Скопировал папку на локальный диск windows и стал переключаться между папками. Чуть медленнее. Разница максимум десятые доли секунды.

Двойной оверхед?

Двойной оверхед?

А кто говорил, что трафика не

А кто говорил, что трафика не должно быть? По моему в предыдущий раз я как раз настаивал, что он (оверхед) должен быть :-). Нужно разбираться в конкретном случае. Какие настройки recordsize, logbias, sync, redundant_metadata? По памяти не помню, но проверить что у нас там есть по sysctl на эту тему. Желательно знать какой размер блока у ntfs на данном томе?

Ну вот если "не

Ну вот если "не злоупотребляет" - то откуда трафик на ZIL примерно равный трафику на массив?

Его не должно бы быть. Но он - есть.

Немного непонятно, что

Немного непонятно, что вкладывается в понятие "- метадату надо (констистентно) писать с sync
- а данные - как приложение велело".
Условно по iscsi на zvol или любое другое блочное устройство на исполнение передаются четыре команды (в терминологии FreeBSD) READ, WRITE, FLUSH, DELETE. Если посмотреть на статистику, то ntfs не злоупотребляет командой FLUSH :-). Проблема в zvol и его настройке. Если с помощью geom-ов на тех же дисках организовать блочное устройство и отдать его по iscsi, то с производительностью резко повеселеет :-).

Ну я вот о чем

Ну я вот о чем
- метадату надо (констистентно) писать с sync
- а данные - как приложение велело

Вот бутерброде zvol-iscsi-ntfs получается какая-то непонятная ерунда, там чуть не все идет с sync (иначе отчего такой трафик на zil?)

Pages

Subscribe to comments_recent_new