URL: https://www.opennet.me/cgi-bin/openforum/vsluhboard.cgi
Форум: vsluhforumID3
Нить номер: 40901
[ Назад ]

Исходное сообщение
"OpenNews: Оценка производительности файловых систем"

Отправлено opennews , 26-Мрт-08 10:08 
Евгений Поляков провел (http://tservice.net.ru/~s0mbre/old/?section=projects&item=fs...) серию нагрузочных тестов файловых систем в Linux. Для оценки производительности были использованы пакеты dbench (http://samba.org/ftp/tridge/dbench), iozone (http://www.iozone.org/) и postmar (эмуляция SMTP сервера, разбор maildir), а также измерение скорости операций с большим числом мелких файлов. Тестирование проводилось в Linux с ядром 2.6.24.3. Результаты наглядно представлены в виде графиков (http://tservice.net.ru/~s0mbre/old/?section=projects&item=fs...).


Ниже список файловых систем и использованных (http://tservice.net.ru/~s0mbre/blog/devel/fs/2008_03_20.html) флагов форматирования и монтирования:


-  XFS: mkfs: -d agcount=1 -l size=128m,version=2, mount: noatime,logbsize=256k, as suggested by Dave Chinner
-  EXT4: mount: data=writeback,noatime,extents
-  EXT3: mount: data=writeback,noatime
-  EXT2: mount: noatime
-  JFS: mount: noatime
-  REISER4: mount: noatime
-...

URL: http://tservice.net.ru/~s0mbre/blog/devel/fs/2008_03_25_2.html
Новость: http://www.opennet.me/opennews/art.shtml?num=14872


Содержание

Сообщения в этом обсуждении
"Оценка производительности файловых систем"
Отправлено Аноним , 26-Мрт-08 10:08 
Так это что получается, резер4 самы стабильный чтоли?

"Оценка производительности файловых систем"
Отправлено Kido , 26-Мрт-08 10:15 
>Так это что получается, резер4 самы стабильный чтоли?

Reiser4 - довольно быстрая, но требовательная к железу фс - это да, а вот на счет стабильности... Судите сами - ее даже в ванильное ядро до сих пор не включили.


"Оценка производительности файловых систем"
Отправлено Lindemidux , 26-Мрт-08 21:39 
>>Так это что получается, резер4 самы стабильный чтоли?
>
>Reiser4 - довольно быстрая, но требовательная к железу фс - это да,
>а вот на счет стабильности... Судите сами - ее даже в
>ванильное ядро до сих пор не включили.

А теперь вспоминаем ... где сидит Райзер.


"Оценка производительности файловых систем"
Отправлено Аноним , 26-Мрт-08 12:25 
>Так это что получается, резер4 самы стабильный чтоли?

Для слепых - да.
Какая стабильность, если она в одном тесте повесила машину?


"OpenNews: Оценка производительности файловых систем"
Отправлено Konwin , 26-Мрт-08 10:15 
Интересно было бы посмотреть еще на результаты ZFS

"OpenNews: Оценка производительности файловых систем"
Отправлено fresco , 26-Мрт-08 10:53 
На железе, которго не хватает даже reiser4, думается, ZFS тестить бесполезно.

"OpenNews: Оценка производительности файловых систем"
Отправлено Konwin , 26-Мрт-08 10:59 
>На железе, которго не хватает даже reiser4, думается, ZFS тестить бесполезно.

Солярка не настолько уж и требовательна....



"OpenNews: Оценка производительности файловых систем"
Отправлено fresco , 26-Мрт-08 11:20 
Солярка не требовательна, а ZFS -- да. Работать она, конечно, и на 512 Mb RAM будет, но ни о какой производительности тут речи быть не может.

"OpenNews: Оценка производительности файловых систем"
Отправлено Аноним , 26-Мрт-08 14:50 
>На железе, которго не хватает даже reiser4, думается, ZFS тестить бесполезно.

4-way Xeon с 4 гб памяти и сказевыми 10к дисками? Думаю, что вполне достаточно.
Reiser4 просто вешал машину под большой нагрузкой, как написано в блоге.


"OpenNews: Оценка производительности файловых систем"
Отправлено fresco , 27-Мрт-08 08:36 
Принято. Че-т пропустил железо-то...

"Оценка производительности файловых систем"
Отправлено vitek , 26-Мрт-08 10:42 
ну вот теперь пусть апологеты и скажут чем reiser лучше ext.
лично я для себя давно решил - для aplication серверов - ext3 (и для файловых)
для б/д - ext2
тем более, что это можно подтюнить

"Оценка производительности файловых систем"
Отправлено fresco , 26-Мрт-08 13:00 
Че тут говорить...
Чушь это все. Я у себя никогда таких результатов не получал. И самодельными софтами тестил, и dbench'ем этим. Никогда ext2/3 на моих машинах не выигрывали (ну, только если у ufs2).

Повторюсь -- бенчмарки ФС дело исключительно субъективное, ОЧЕНЬ многое зависит от параметров машины (в т.ч. от очень экзотических, вплоть до сочетания объема RAM с размером аппаратного кэша жесткого диска и скоростью шины) и от типов данных. Посему у всех по-разному выходит. И неожиданные результаты, которые часто называют проплаченным пиаром, следствие именно грамотного подбора условий, идеальных для конкретной ФС.

Вообще сегодня трудно говорить о "производительности ФС" в чистом виде -- слишком много разнородных задач, слишком разнятся аппаратные мощности. ИМХО, в оценке ФС не стоит идти дальше довольно абстрактного кртитерия общего архитектурного совершенства, который позволяет лишь с некой вероятностью предсказать, какая ФС покажет наилучшие результаты в данных конкретных условиях.

В любом случае, чем верить чужим бенчмаркам, лучше самостоятельно покопаться в дизайне интересующих ФС, или, по крайней мере, потестить на своих машинах и актуальных задачах.


"Оценка производительности файловых систем"
Отправлено Аноним , 26-Мрт-08 17:35 
>Че тут говорить...
>Чушь это все. Я у себя никогда таких результатов не получал.

О-ло-ло! Ты не _ш_могла - значит всё - чушь?
Замерить все метрики мира только его творцу под силу, потому автор сделал то что под силу человекам - зафиксировал некоторые параметы и выдал на гора некий срез реальности. Так что на той машине с тем ядром - картина такая! Тест как тест - всё нормально.

PS: Кстати - за исключением совсем уж неважных показателей XFS - совпадает с моей картиной мира. Хотя железо и ядро у меня были другие ...

PPS: Но вот что радует - так это то что JFS на всех виденных мной тестах показывает своё качество! Оно рулез! Как то незаметно и постепенно _все_ мои линукс боксы ушли на неё :)


"Оценка производительности файловых систем"
Отправлено fresco , 27-Мрт-08 08:35 
Херня. Тут десятки таких новостей пробегают за год -- кто-то где-то потестил файловые системы. Результаты у всех разные. Сказано совсем не к тому, что аффтар мудак, а к тому, что в других условиях результаты могут оказать совершенно иные. И делать выводы из чьих-то бенчмарков -- дело пустое, если не опасное.

"Оценка производительности файловых систем"
Отправлено Аноним , 26-Мрт-08 10:43 
zfs в линуксе не работает, тестировать пришлось бы на солярке, а это не кошерно.

"Оценка производительности файловых систем"
Отправлено vitek , 26-Мрт-08 10:52 
>zfs в линуксе не работает, тестировать пришлось бы на солярке, а это
>не кошерно.

теперь она уже есть и на bsd, и на macos'и


"Оценка производительности файловых систем"
Отправлено Andrew Kolchoogin , 26-Мрт-08 11:34 
> теперь она уже есть и на bsd,

    Experimental.

> и на macos'и

    Read-only.


"Оценка производительности файловых систем"
Отправлено Planner , 23-Апр-08 20:14 
>    Experimental.

ну если на то пошло, то она Experimental и на солярке тоже. Но по надёжности и фичам лично меня даже этот Experimental на 80%-90% устраивает. И дома, и на некоторых серверах.


"Оценка производительности файловых систем"
Отправлено Аноним , 26-Мрт-08 10:45 
а для десктопов что лучше, не понятно

"Оценка производительности файловых систем"
Отправлено Laz , 26-Мрт-08 10:54 
>а для десктопов что лучше, не понятно

Здесь юзеру предоставляется возможность выбора, в зависимости от того, чем он занимается бОльшую часть времени - создаёт много маленьких файлов, разбирает почту или ещё что. Мой выбор - ext3


"Оценка производительности файловых систем"
Отправлено 187 , 26-Мрт-08 10:57 
>а для десктопов что лучше, не понятно

Дома сижу на reiser. Cравнил копирование фильма (5Гб) - рейзер ровно в 2 раза быстрее xfs.
Про маленькие файлы молчу - это вообще основной конек рейзера.


"Оценка производительности файловых систем"
Отправлено devcoder , 26-Мрт-08 11:11 
> Cравнил копирование фильма (5Гб) - рейзер ровно в 2 раза быстрее xfs.

Да Вы что? Как сравнивали?

Для более-менее точного детского сравнения, как минимум
нужно использовать один и тот же дисковый раздел,
желательно только что отформатированный.

Да, и сравните скорость удаления больших (>1Гб) файлов на xfs
с рейзером и ext, причём CPU usage и LA гляньте.


"Оценка производительности файловых систем"
Отправлено 187 , 26-Мрт-08 11:24 
1. Раздел был один и тот же, форматировал по очереди в xfs и reiser.
2. Скорость удаления больших файлов и, тем более, CPU usage [лично для меня] не имеют значения - мы говорим о десктопе, а не о сервере.

"Оценка производительности файловых систем"
Отправлено devcoder , 26-Мрт-08 11:28 
> ... мы говорим о десктопе, а не о сервере.

s/мы говорим/я говорю/
;)



"Оценка производительности файловых систем"
Отправлено 187 , 26-Мрт-08 12:26 
Да нет, МЫ говорим

>а для десктопов что лучше, не понятно

Дома сижу на reiser.


"Оценка производительности файловых систем"
Отправлено Аноним , 26-Мрт-08 13:27 
Если на большом файле и нефрагментированном разделе ФС не показывает скорости больше (скорость диска - 5%), то что-то тут явно не так, либо с ФС, либо с руками. Какие нах 2 раза?! У меня на `тормозной' UFS2 чтение/запись на 3/5MB/s соотв медленней dd с/на диск. А XFS, хотите сказать, в 2 раза?!

"Оценка производительности файловых систем"
Отправлено Ivan , 26-Мрт-08 11:05 
Серьезная ошибка: автор создает на 300Gb винте XFS c параметрами -d agcount=1 (!!!) -l size=128m
Это не смотря на то что в дкументации четко сказано one allocation group for every 4 GB of capacity in your target block device (округление в большую сторону.
  Как раз недавно столкнулся с ужасной производительностью XFS и курил документацию, в данном случае корретнее было бы форматировать так:
    
mkfs.xfs -f -d agcount=75 -l size=64m

а монтировать с такими опциями:

logbufs=8,nobarrier,noatime,nodiratime,osyncisdsync(правда osyncisdsync щас  и так по умолчанию включается)

Вот здесь тесты параметров форматироваия и монтирования XFS

http://everything2.com/index.pl?node_id=1479435


"Оценка производительности файловых систем"
Отправлено fresco , 26-Мрт-08 12:44 
это +1, верно подмечено

"Оценка производительности файловых систем"
Отправлено Аноним , 26-Мрт-08 14:48 
>Серьезная ошибка: автор создает на 300Gb винте XFS c параметрами -d agcount=1
>(!!!) -l size=128m
>Это не смотря на то что в дкументации четко сказано one allocation
>group for every 4 GB of capacity in your target block
>device (округление в большую сторону.

У автора написано, что ему эти опции посоветовал Dave Chinner.
David Chinner - Principal Engineer                                                                                                                                                                         SGI Australian Software Group, практически автор xfs.


"Оценка производительности файловых систем"
Отправлено Ivan , 26-Мрт-08 15:43 
>У автора написано, что ему эти опции посоветовал Dave Chinner.
>David Chinner - Principal Engineer        
>          

Это все замечательно, только при таком раскладе производительности от xfs ессно можно не ждать.

выдержка man mkfs.xfs

agcount  suboption  is  used  to  specify  the number of allocation groups.  The data section of the filesystem is divided into allocation groups to improve the performance of XFS.  

More  allocation  groups imply  that  more  parallelism can be achieved when allocating blocks and inodes.  The minimum allocation group size is 16 MiB; the maximum size is just under 1 TiB.   The  data  section  of  the  filesystem  is divided  into  agcount  allocation  groups (default value is scaled automatically based on the underlying device size).  Setting agcount to a very large number should be avoided, since this causes  an  unreasonable amount of CPU time to be used when the filesystem is close to full.


А теперь давай решать, что нам надо. Скорость или висяк при полностью забитом винте. Как мы видим Reiser4 утилизирует процессор, но при этом достигается достаточно неплохая производительность. И потом что значит very large number? Насколько большое должно быть значение. То которое я предложил я вывел из достаточно долгого поиска по докам и тестам. К сожалению я не нашел официальной рекомендации выделять 4G на группу, но поверьте после здания и монтирования ФС с теми опциями которые я предложил производительность заметно возросла.


"Оценка производительности файловых систем"
Отправлено Аноним , 26-Мрт-08 16:17 
>Это все замечательно, только при таком раскладе производительности от xfs ессно можно
>не ждать.

Собственно, автор провел postmark тесты с вашими опциями, указанными в блоге, результат немного лучше.
Он считает, что все дело в nobarriers, хотя может быть и не прав.


"Оценка производительности файловых систем"
Отправлено Аноним , 26-Мрт-08 16:27 
>Как мы видим Reiser4 утилизирует процессор, но при этом
>достигается достаточно неплохая производительность.

Reiser4 стабильно вешает систему в dbench при 150-200 потоках. О нем речь вообще идти не должна.


"Оценка производительности файловых систем"
Отправлено fresco , 26-Мрт-08 15:46 
David Chinner пришел в XFS толи в 2003, толи в 2004 году. Работал, правда, по производительности. ХЗ почему он такую ерунду посоветовал.

"Оценка производительности файловых систем"
Отправлено Slayer605 , 27-Мрт-08 11:38 
+ ещё если у вас рейд на XFS не забываем вставить правильные значения sunit=,swidth=

"Оценка производительности файловых систем"
Отправлено Аноним , 26-Мрт-08 11:05 
суда бы включили ещё UFS и сравнили с NTFS под WS2003 тогда было бы вообще супер+пропаганда linux увеличилась

"Оценка производительности файловых систем"
Отправлено Аноним , 26-Мрт-08 11:13 
а никому не кажется подозрительным, что при увиличении числа файлов у некоторых ФС скорость (Кб/с) увеличивается?

"Оценка производительности файловых систем"
Отправлено Аноним , 26-Мрт-08 11:21 
думается обычное дело при пакетной обработке, наверно вопрос к архитекторам..

"Оценка производительности файловых систем"
Отправлено wd , 26-Мрт-08 12:09 
какие-то странные тесты.
Кому кажется наглядными эти псевдо 3D графики?

Потом сравнивать Ext3 с опцией writeback и reiserfs без этой опции на операциях создания большого количества мелких файлов, как-то не корректно.
А если собрать 10 рейд на 15-ти тысячниках и хорошем контроллере со своим 256 М кешем и батарейкой, тогда ext3 точно всех порвет.


"Оценка производительности файловых систем"
Отправлено Аноним , 26-Мрт-08 13:02 
Интересно посмотреть на результаты reiserfs с опцией notail

"Reiser4 + compression"
Отправлено Георгий , 27-Мрт-08 00:13 
mkfs.reiser4 -o create=ccreg40
должен дать ощутимый прирост производительности по крайней мере там, где процессор не полностью загружен. (Не в тестовых условиях загрузить процессор полностью сложно.)

"Reiser4 + compression"
Отправлено Аноним , 27-Мрт-08 00:25 
>mkfs.reiser4 -o create=ccreg40
>должен дать ощутимый прирост производительности по крайней мере там, где процессор не
>полностью загружен. (Не в тестовых условиях загрузить процессор полностью сложно.)

И еще сильнее слить, если данные не компрессируются.
Эта опциая полезна только для простейших бенчмарков, когда в файлы пишутся одни нули. В реальной жизни подавляющее большинство файлов уже пожаты (pdf/jpg/db/bin).


"Оценка производительности файловых систем"
Отправлено nanodaemon , 27-Мрт-08 08:20 
на домашнем порносервире (AXP3200+, 2GB, кучка винчей разных размеров) крутится себе FreeBSD 7.0 Release с корнем на ZFS (только /boot на UFS). скорость между ФС одного пула порядка 40-50 мегобайт в секунду. учитывая какое гавножелезо и вообще i386 очень даже хороший результат. а нексента, вообще, крутит зфс на 256 метрах памяти и не жужжит... а уж про менеджмент тулз ZFS я вообще молчу (не надо говорить про лвм, он сасёт громко и со смаком).

после такого садиться за унылый линукс с его гавнолвмом и недобитым xfs'ом просто пытко :-)))


"Оценка производительности файловых систем"
Отправлено Hetzer , 27-Мрт-08 08:32 
>на домашнем порносервире (AXP3200+, 2GB, кучка винчей разных размеров) крутится себе FreeBSD
>7.0 Release с корнем на ZFS (только /boot на UFS). скорость
>между ФС одного пула порядка 40-50 мегобайт в секунду. учитывая какое
>гавножелезо и вообще i386 очень даже хороший результат. а нексента, вообще,
>крутит зфс на 256 метрах памяти и не жужжит... а уж
>про менеджмент тулз ZFS я вообще молчу (не надо говорить про
>лвм, он сасёт громко и со смаком).
>
>после такого садиться за унылый линукс с его гавнолвмом и недобитым xfs'ом
>просто пытко :-)))

улыбныло
видимо n-летнее отсутствие нормальной фс в bsd настолько сильно повлияло на разум, а замечания по этому поводу воспринимались как личное оскорбление, то теперь да, можно ругаться и троллить :) впрочем, от владельца <порносервира> разве можно ожидать иного ;)


"Оценка производительности файловых систем"
Отправлено fresco , 27-Мрт-08 09:15 
За исключением тона чувак прав. Отсутствие ZFS в Linux -- его огромный минус!

"Оценка производительности файловых систем"
Отправлено Hetzer , 27-Мрт-08 09:27 
>За исключением тона чувак прав. Отсутствие ZFS в Linux -- его огромный
>минус!

А с чего вы взяли что zfs нет в linux? она там есть (в рамках fuse) и такая-же testing как и в bsd. Вы же прямо сейчас zfs на bsd в production не кинете? так на мало-критичных сервачках пока.
другое дело что в официальное linux ядро, zfs точно не попадёт по причине лицензий.


"Оценка производительности файловых систем"
Отправлено Slayer605 , 27-Мрт-08 11:43 
даже на solaris в продакшен не стоит пока.

"Оценка производительности файловых систем"
Отправлено ZANSWER , 27-Мрт-08 11:56 
> даже на solaris в продакшен не стоит пока.

У кого как...;) некоторые давно её уже на Thumper-ах юзают...;)


"Оценка производительности файловых систем"
Отправлено fresco , 27-Мрт-08 13:01 
Уже писал где-то тут. zfs-fuse -- это zpool 3-й версии (6 в FreeBSD 7, 10 в последнем OpenSolaris), производительность полный швах, драйвер практически не поддерживается (автор занят портированием Lustre на FreeBSD, если не ошибаюсь). Так что ZFS в Linux практически нет!

"Оценка производительности файловых систем"
Отправлено nuclight , 27-Мрт-08 20:43 
>За исключением тона чувак прав. Отсутствие ZFS в Linux -- его огромный
>минус!

Минус линукса? :) Безусловно. И ведь, сами себе закрыли по лицензии - могли бы и заиметь...


"Оценка производительности файловых систем"
Отправлено Аноним , 28-Мрт-08 03:29 
Я сам фряшник и соляровод со стажем и ZFS мне нравится (правда они врут про инновэйшен - это  "пересказ" DEC'Tru64 advfs которая казалась просто сказкой какой то в 90-е то :)

Но однако же не занимайтесь самообманом - раз ZFS в Линукс портануть официально нельзя - сделают функциональный аналог ... если голубые (или какого другого цвету) раскошелятся :)

PS: Про лицензии гнилая тема - даже заводить не буду, но есть и обратные примеры, когда хотятЪ GPL-ное а никак.


"Оценка производительности файловых систем"
Отправлено ZANSWER , 27-Мрт-08 11:55 
> на домашнем порносервире (AXP3200+, 2GB, кучка винчей разных размеров) крутится себе FreeBSD 7.0 Release с корнем на ZFS (только /boot на UFS).

Ну вот для домашнего оно пока только и годиться, на большее kernel panic в массы даёт, по сему, ZFS во FreeBSD, сейчас годиться только, чтобы письками меряться с Линуксоидами...;)


"Оценка производительности файловых систем"
Отправлено Дмитрий Т , 27-Мрт-08 18:42 
Недавно настраивал себе ноутбук и теперь для имеющих на компьютере ещё и виндовс рекомендую ext3 по причине наличия двух вменяемых драйверов, позволяющих читать и писать в линуксовые разделы из виндовс. Для остальных ФС ничего бесплатного и нормально работающего не нашёл.

"Оценка производительности файловых систем"
Отправлено Аноним , 28-Мрт-08 03:31 
Здрасте вам! Для FreeBSD UFS2 есть тоже, юзаю уже больше года - жив :)

"Оценка производительности файловых систем"
Отправлено angra , 28-Мрт-08 08:28 
Открой для себя ntfs-3g и забудь про ext3 как общий раздел для этих систем. Во-первых поведение виндовых драйверов ext3 не совсем стабильно, во вторых в ext3 отсутствует понятие кодировки для имен файлов.
Находил еще драйвера для рейзера под винду, но так и не попробовал.

"Оценка производительности файловых систем"
Отправлено fresco , 28-Мрт-08 08:45 
rfstools которые? Это не драйвера, это так -- типа прочитать каталог, прочитать файл. Пользоваться не реально.