Свежие комментарии

Title Comment
Я так понимаю у тебя появился

Я так понимаю у тебя появился свет в конце туннеля :-). В самый раз спросить - какая по твоему "теоретическая" верхняя планка производительности последовательного чтения raidz2 относительно полной производительности всех дисков, входящих в пул? Какое количество дисков в raidz2 может "теоретически" дать максимальную производительность последовательного чтения относительно полной производительности пула (здесь прийдётся опираться на твои результаты)? Как по мне вопросы интересные, требующие размышлений, к тому же ответы помогут тебе найти ориентир в дальнейшей настройке и я заодно приобщусь к пониманию raidz2 ;-).

Странно

storage: ~# uname -a
FreeBSD storage.mgn 10.3-RELEASE-p1 FreeBSD 10.3-RELEASE-p1 #0 r298876M: Sun May  1 12:55:28 CEST 2016     root@dev.nas4free.org:/usr/obj/nas4free/usr/src/sys/NAS4FREE-amd64  amd64
storage: ~# zpool status
  pool: main
 state: ONLINE
  scan: scrub repaired 0 in 0h31m with 0 errors on Mon May 30 16:58:37 2016
config:

        NAME        STATE     READ WRITE CKSUM
        main        ONLINE       0     0     0
          raidz2-0  ONLINE       0     0     0
            da1     ONLINE       0     0     0
            da2     ONLINE       0     0     0
            da3     ONLINE       0     0     0
            da4     ONLINE       0     0     0
            da5     ONLINE       0     0     0
            da6     ONLINE       0     0     0
          raidz2-1  ONLINE       0     0     0
            ada4    ONLINE       0     0     0
            ada3    ONLINE       0     0     0
            ada0    ONLINE       0     0     0
            ada5    ONLINE       0     0     0
            ada1    ONLINE       0     0     0
            ada2    ONLINE       0     0     0
        cache
          da0       ONLINE       0     0     0
          da7       ONLINE       0     0     0

errors: No known data errors
storage: ~# zfs get all main
NAME  PROPERTY              VALUE                  SOURCE
main  type                  filesystem             -
main  creation              Wed May 18 17:36 2016  -
main  used                  1.76T                  -
main  available             12.3T                  -
main  referenced            137K                   -
main  compressratio         1.56x                  -
main  mounted               yes                    -
main  quota                 none                   default
main  reservation           none                   default
main  recordsize            128K                   default
main  mountpoint            /mnt/main              local
main  sharenfs              off                    default
main  checksum              on                     default
main  compression           lz4                    local

Или я куда-то не туда смотрю?

Ну вот опупея, но в другом

Ну вот опупея, но в другом разрезе, да.
6/7 дисков 1m/128k recordsize (там где ставится 1m), версия FreeBSD

Интеллектуальное занятие.....

Уже похоже на правду :-). В

Уже похоже на правду :-). В 10.1 размер префетча 256 * 128k = 32MB.

См. ниже: FreeBSD10.1 дает

См. ниже: FreeBSD10.1 дает вменяемые и понятные результаты (и окна префетча там нет в регулировках)
Я постепенно, за вечер, попробую все это же дело на 10.2, 10.3, 11.0, если и на 11 (с флешки) все хорошо - значит прикол где-то в моем loader.conf

Не хочу быть занудой и писать

Не хочу быть занудой и писать много букв :-). Попробую кратко. Моё мнение, zfs оптимизирована как раз для последовательного чтения (в отличии от случайного). Для загрузки диска на 100% для последовательного чтения обычно достаточно 2-3 запроса курсирующих от процесса к диску (получается 256-384k на диск в идеальном случае, а с учётом распределения в zfs данных по vdev - наверно по 4-6MB на диск максимум), поэтому использовать такие огромные окна префетча - это нонсенс.
"Для 6-дисковой записан только размер при записи (128к) и судя по тому что я другие не записывал - при чтении было так же :)" - не верю, что при поступлении 4 одновременных запросов чтения по 128k на разные диски в итоге общая скорость пула чуть выше, чем у одиночного диска. У меня сейчас нет столько свободных дисков, что бы проверить, но первое гугление даёт такой результат: https://calomel.org/zfs_raid_speed_capacity.html. Понятно, что не совсем ясна методика измерений, но показательно соотношение скорости записи и чтения.
На счёт версии FreeBSD - я уже недели три-четыре держу/испытываю основные данные на 11 версии и доволен :-). Изменения по сравнению с 10.1 были, но, как по мне, не существенные.
На счёт гаек - я свои гайки уже описывал. Если возникнет желание попробовать - не вопрос. Думаю из этих 8 дисков можно получить около 900MB/s при однопоточном последовательном чтении.

7HDD, RAIDZ2=> 633(W)/599(R)

7HDD, RAIDZ2=> 633(W)/599(R)
Размер блока чтения - в районе 100+ килобайт

Пошел качать FreeBSD 10.2

Значит рассказываю:

Значит рассказываю:
FreeBSD 10.1 с флешки
Создаем пул (recordsize > 128k не создается), 6 дисков.
Запись dd bs=1m - 439MB/s
чтение (dd bs=1m) - 441MB/s
Получается, что-то они там перемудрили в 10.3-11.x-12.

Для 6-дискового пула при чтении - в моменте работают 4 диска из 6, но по суммарному iostat - выравниваются.

Буду теперь 7 пробовать.

Вот наверное надо покрутить

Вот наверное надо покрутить гайку 'FreeBSD 10.1' (то есть до 10.3), кстати.

Ну и вот главное - скажите

Ну и вот главное - скажите какую гайку крутить и я ее покручу.

Крутить все гайки - не могу, жизнь коротка.

Для 5-дисковой - 112-113k (но

Для 5-дисковой - 112-113k (но я в уме считал, не калькулятором).
Для 6-дисковой записан только размер при записи (128к) и судя по тому что я другие не записывал - при чтении было так же :)

Тесты интересные. Выводы, как

Тесты интересные. Выводы, как по мне, не имеют право на жизнь :-). Видна явно аномально низкая скорость последовательного чтения при настройках по умолчанию. Предположу, что на шестидисковой конфигурации raidz2 средний размер запроса на чтения опять был в районе 32k и я так понимаю причина не найдена?

Они научили L2ARC хранить

Они научили L2ARC хранить прямо сжатое, блоки как на самом пуле. И в какой-то момент оно сходит с ума и явно хранит лажу. Потому что, во-первых, ALLOCATED растёт до 4x SIZE (у меня есть, конечно, сжатое, но максимум 2x и не торренты, а мой хомяк да порты и прочее системное, а торренты и фотографии, очевидно, не сжаты, так что сжатие 4x в принципе является признаком лажи и даже в 2x я не верю на активном массиве данных), а, во-вторых, начинаются сыпаться checksum errors (именно у L2ARC а не вообще) как из ведра (десятки тысяч в минуту). Так что явно там что-то налажали.
Я писал в fs@, Гапон попросил всяких отладочных логов, я ему послали он пропал. Пару недель назад, если как бы не три недели уже.

А в чем выражается "сломан",

А в чем выражается "сломан", кстати?

ggc - это госгисцентр, там

ggc - это госгисцентр, там новые карты, которые как по мне - гораздо хуже, но дороги и населенные пункты там свежее.

У меня, кстати. есть сколько

У меня, кстати. есть сколько-то торрентов с общим названием _maps на 92 гига и есть ещё "maps.ggc.ru [png 4096x4096]" на 192 (!)
И я запутался что есть что.

Я просто на всякий случай

Я просто на всякий случай предупредил, а то вот у меня тут страдание. Купил SSD а толку нет (а у меня торренты и L2ARC сильно бы помогал).

Я так и сделал, и эта софтина

Я так и сделал, и эта софтина умеет локальный каталог, но она «по дефолту» (через конфиги) хочет квад-дерево (зум-левелы по степеням двойки, номера листов а не координаты) а не листы номенклатуры. Видимо, что бы научить её листам номенлкатуры, надо не конфиг писать, а программировать (благо опенсорс и джава, так что я может в следюущем году займусь).

Нет сжатия.

Нет сжатия.

И эти тесты были без L2ARC, естественно.

GM нет под рукой, но там надо

GM нет под рукой, но там надо правильно рамку задать (правила для bounding или rounding, как оно там правильно называется). Оно по-умолчанию там типа через 0.1 градус подбирает, а у нас бывает 1/3 (и, кажется, 1/6 тоже).

Ну вот 0.1666666666666666666666667 и написать там где надо.

Генштабы надо один раз

Генштабы надо один раз выкачать с торрентов и сложить в кучку, там гигабайт 100 всего.

Кстати, во всех свежих

Кстати, во всех свежих FreeBSD (10.x, 11.x, 12) сломан L2ARC если у вас включено сжатие на пуле (хотя бы где-нибудь, на одной FS из многих).

А как в два клика клеить ГШ в

А как в два клика клеить ГШ в GM? У меня щели и поля лезут. Рамку вручную приходится отрезать, очень мешкотно.

Нашёл софтину для скачивания

Нашёл софтину для скачивания тайлов всяких карт, к которой легко гуглится конфиг для google maps (и можно так же придумать для google satellite), и которую почему-то гугл не банит как он банит САС-Планету. Зовут Mobile Atlas Creator. Умеет сохранять результат в 100500 форматов оффлайновых навигаторов.

Но пока не нашёл как научить этот MOBAT качать наши генштабы. Но, с другой стороны, там, куда я езжу, генштаб неактуален, потому что горизонтали есть хорошие и из SRTM, а дороги на генштабе из 60-х безнадёжно устарели.

Так же нашёл компилятор JNX'а mobat2jnx из комплекта конвертера MAPC2MAPC.

Может полезно и вам будет.

Ну я ж тоже не высосал из

Ну я ж тоже не высосал из пальца, а посмотрел rawdigger-ом тестовые файлы взятые с imaging resource.

Там снята строго одна сцена, сопоставлять просто.

Мне давали тестовые кадры с X

Мне давали тестовые кадры с X-T2 (снято 20 ноября в Минске), и выглядело так что кадр на 6400 не был светлее, чем снятый на 3200. Даже чуть темнее: https://content.onliner.by/forum/200037/800x800/fe61d3c3b9f861ddab6fbb79... При этом камерный джипег отличается по экспозиции. Может конечно это Raw Therapee чудит, но я сомневаюсь.

> Что, у некоторых стоит

> Что, у некоторых стоит усилитель сигнала?

скорее правиьные слова = "у некоторых не стоит" ... камеры у которых __все__ ISO = ISO by tag в сильном меньшинстве...

может помочь например http:/

может помочь например http://photonstophotos.net = http://photonstophotos.net/Charts/PDR.htm#Fujifilm%20X-T1,Fujifilm%20X-T2

Как только вы договоритесь о

Как только вы договоритесь о терминах ("что такое ДД", "что такое ISO", как их померять) так сразу говорить станет не о чем.

Если ISO и ДД - это то, что меряется на выходе из лайтрума - такая точка зрения имеет право на жизнь (но тогда эти параметры могут меняться при смене конвертора/версии конвертора)

Вот только что мне уверяли

Вот только что мне уверяли что программные ИСО имеют меньший ДД и их нет никакого смысла использовать. Аргумент: так пишут в интернетах и инструкциях! И еще предложили сравнить на кадрах. И вот я уже представляю как человек сравнивает тянучесть светов в лайтруме и делает выводы... При этом то что на честных исо ДД в светах зачастую содержит 1-2 стопа пустоты никто обычно не знает и потому вроде бы как и не теряют ничего. И привет шумы в тенях.

Pages

Subscribe to comments_recent_new