URL: https://www.opennet.me/cgi-bin/openforum/vsluhboard.cgi
Форум: vsluhforumID3
Нить номер: 41498
[ Назад ]

Исходное сообщение
"OpenNews: Объединение нескольких файловых систем средствами FUSE модуля mhddfs"

Отправлено opennews , 29-Апр-08 10:09 
В материале (http://rm.pp.ru/info/mhddfs) представлен пример использования mhddfs (http://packages.debian.org/mhddfs), модуль файловой системы для FUSE, позволяющий объединить несколько обычных файловых систем в одну большую "виртуальную", которая будет содержать в себе не только все файлы объединённых ФС, но и всё их свободное место. Кроме того, в отличии от других подобных модулей, этот не ограничивает возможность записи на виртуальную объединённую ФС, а автоматически распределяет новые файлы по тем физическим дискам, где ещё есть свободное место.

URL: http://rm.pp.ru/info/mhddfs
Новость: http://www.opennet.me/opennews/art.shtml?num=15592


Содержание

Сообщения в этом обсуждении
"Объединение нескольких файловых систем средствами FUSE модуля mhddfs"
Отправлено kapany3 , 29-Апр-08 10:09 
А как со скоростью работы? На сколько падает производительность?

"Объединение нескольких файловых систем средствами FUSE модул..."
Отправлено rm , 29-Апр-08 10:30 
> На сколько падает производительность?

Не тестировал, но на глаз - абсолютно не падает. При записи на виртуальную ФС в "top" видно три-четыре нитки процесса "mhddfs", каждая из которых грузит CPU на 0.5-1%.


"Объединение нескольких файловых систем средствами FUSE модуля mhddfs"
Отправлено fresco , 29-Апр-08 10:15 
Где код-то скачать можно? А то ссылки попадаются токана debian -- там она пропатченная, какой-то странной версии и вообще не вызывает доверия.

"Объединение нескольких файловых систем средствами FUSE модул..."
Отправлено rm , 29-Апр-08 10:32 
> Где код-то скачать можно? А то ссылки попадаются токана debian -- там она пропатченная, какой-то странной версии

Автор лично мантайнит пакет для Debian, соотв-но там можно ожидать вполне актуальные и прямые исходники.


"Объединение нескольких файловых систем средствами FUSE модул..."
Отправлено fresco , 29-Апр-08 10:41 
Ага, принято

"Ссылка на сайт автора"
Отправлено rm , 29-Апр-08 10:56 
http://mhddfs.uvw.ru/
только что случайно обнаружил в дебиановском Copyright-файле :D
странно, что в описании пакета она не указана.

"Объединение нескольких файловых систем средствами FUSE модуля mhddfs"
Отправлено автор mhddfs , 29-Апр-08 11:05 
спасибо за интерес к моей поделке :)

>только что случайно обнаружил в дебиановском Copyright-файле :D
>странно, что в описании пакета она не указана.

да, раньше в Debian файл copyright и был (и остается) основным местом где надо url проекта располагать, это теперь добавили поля в файл debian/control.

кстати то что урла там нет - бага, надо бы добавить :)

>А как со скоростью работы? На сколько падает производительность?

mhddfs пока хватает места на диске - просто транслирует запросы "вышестоящим" файловым системам, и до этих пор падения производительности не должно быть никакого.
однако возможны ситуации (mhddfs "старается" в них попадать как можно реже), когда файл сперва писался на один носитель, потом там кончилось место и он перемещается на другой. вот это перемещение будет добавлено к времени записи очередного блока.

на больших файлах возможно будет заметно, но я пока в дискомфортные ситуации не попадал


PPS: кстати в FUSE есть бага с mmap/write. если кто планирует пускать на mhddfs (или на любой FUSE-системе) rtorrent, то придется обновить кернел до 2.6.25-mm


"Объединение нескольких файловых систем средствами FUSE модул..."
Отправлено Аноним , 29-Апр-08 15:40 
>mhddfs пока хватает места на диске - просто транслирует запросы "вышестоящим" файловым
>системам, и до этих пор падения производительности не должно быть никакого.

А как жи лишние контекст свичи? Хотя на больших блоках, думается, незаметно будет.
График с разным размером блока чтения/записи напрямую/через mhddfs не помешал бы.


"Объединение нескольких файловых систем средствами FUSE модул..."
Отправлено автор mhddfs , 29-Апр-08 15:50 
>А как жи лишние контекст свичи? Хотя на больших блоках, думается, незаметно
>будет.

они конечно есть, но по сравнению с собственно записью/чтением это мелочи.

mhddfs я писал для домашнего сервера, а он у меня слабенький (Р500/128)
сейчас примерно 1ТБ данных крутит, зеркала debian в локалку, фильмы итп
и просадки производительности не увидел :)


>График с разным размером блока чтения/записи напрямую/через mhddfs не помешал бы.

а вот это если бы кто сделал, то было бы неплохо

есть какая-то программа готовая которая умеет такую фигню изготавливать?


"Объединение нескольких файловых систем средствами FUSE модул..."
Отправлено iav , 29-Апр-08 19:50 
Да, http://www.iozone.org/

"Объединение нескольких файловых систем средствами FUSE модул..."
Отправлено автор mhddfs , 30-Апр-08 12:24 
нифига не понял я в этом iozone

там за каким-то фигом накручен какой-то мрачный exel-формат
ума не приложу чем его открыть можно


"Объединение нескольких файловых систем средствами FUSE модул..."
Отправлено iav , 30-Апр-08 19:25 
Открыть его можно почти любой современной элетронной таблицей - KOffice, OpenOffice, GNUmeric.
кроме того, если не указывать ключа, то он эти же данные валит не в эксел, а прямо в консоль.

"Объединение нескольких файловых систем средствами FUSE модул..."
Отправлено Аноним , 30-Апр-08 11:25 
а можно ли объединять ей несколько смонтированных по сети дисков? и если можно, что происходит если один из дисков становится недоступным?


"Объединение нескольких файловых систем средствами FUSE модул..."
Отправлено автор mhddfs , 30-Апр-08 12:36 
>а можно ли объединять ей несколько смонтированных по сети дисков? и если
>можно, что происходит если один из дисков становится недоступным?

можно, но надо понимать что делаешь :)

предположим у вас есть сетевой диск, что происходит когда какое-то приложение пытается на него записать но диск не доступен? будет делать ретраи или возвращать ошибки?

mhddfs тут всего-лишь приложением выступает


"Объединение нескольких файловых систем средствами FUSE модуля mhddfs"
Отправлено Demetrio , 29-Апр-08 11:35 
Это похоже на GPFS от IBM?

"Объединение нескольких файловых систем средствами FUSE модул..."
Отправлено Vitto74 , 06-Июн-10 10:56 
Примонтировал таким образом к /home два жестких диска в результате перестали сохранятся ключи пользователей и я подозреваю, что это не все сюрпризы.
Ubuntu 10.04.

"Объединение нескольких файловых систем средствами FUSE модул..."
Отправлено adrianov , 10-Июн-10 18:47 
Пробовал соединить таким образом несколько директорий, подмонтированных с помощью CIFS (Samba), скорость доступа упала разительно, по сравнению с каждой из них в отдельности.

Тестировал с помощью
dd if=/dev/zero of=test bs=1M count=100

Скорость записи на каждую самба в отдельности была 10-12 Мб/с.
На объединённую директорию - 2-3 Мб/с.

Машина - PentiumD 3.4 GHz.


"Объединение нескольких файловых систем средствами FUSE модул..."
Отправлено Аноним , 27-Дек-13 00:41 
опробовал тест записи на объединенную из 3 винтов директорию и тест на подмонтированный винт. Падение в среднем 5% по сравнению с чистой записью на винт.
После обновления FreeBSD на ядро 9.2 с 9.1 модуль работал, диски монтировались, можно было зайти по самбе, но при попытке натравить трансмиссию на объединеную директорию ядро падало в page fault. Помогла очистка от модуля, всех используемых им библиотек и перекомпиляция с нуля.

Очень жду прозрачное освобождение винтов, в т.ч. в предбэдовом состоянии.