The OpenNET Project / Index page

[ новости /+++ | форум | теги | ]

форумы  помощь  поиск  регистрация  майллист  вход/выход  слежка  RSS
"синхронизация каталога на высоконагруженных узлах."
Вариант для распечатки  
Пред. тема | След. тема 
Форум Открытые системы на сервере (Др. сетевые сервисы / Linux)
Изначальное сообщение [ Отслеживать ]

"синхронизация каталога на высоконагруженных узлах."  +/
Сообщение от daevy (??) on 11-Авг-10, 12:48 
Всем доброго времени суток! Люди подскажите, посоветуйте, такое вобщем дело.
Есть 2 машинки(kvm-гости на одном физ.сервере) - веб-сервера, nginx-фронтэнд и nginx-бэкэнд, у них есть общий каталог с картинками (размер картинок ~50-100Кб, количество картинок несколько десятков тысяч). Cодержимое каталога синхронизируется через rsync в cron'е. Так вот теперь так сложились звезды, что эти машины нужно разнести на разные физические хосты.
Так вот, между ними нужно сохранить этот общий каталог, !!! _с минимальными ресурсозатратами_. Есть какие-то идеи? рапределенные ФС или что-то еще? У кого-то реализовано нечто подобное?

На данный момент есть идея, чтоб фронтенд отдавал этот каталог бэкэнду по WebDAV2.
P.S. Самбу и NFS не предлагать, эту идею зарубили на корню, самба громоздкая, nfs глючит ( про nfs доводы не приведу, ибо как не от меня был посыл).

Высказать мнение | Ответить | Правка | Cообщить модератору

Оглавление

Сообщения по теме [Сортировка по времени | RSS]


1. "синхронизация каталога на высоконагруженных узлах."  +/
Сообщение от sHaggY_caT (ok) on 11-Авг-10, 13:37 
>Всем доброго времени суток! Люди подскажите, посоветуйте, такое вобщем дело.
>Есть 2 машинки(kvm-гости на одном физ.сервере) - веб-сервера, nginx-фронтэнд и nginx-бэкэнд, у
>них есть общий каталог с картинками (размер картинок ~50-100Кб, количество картинок
>несколько десятков тысяч). Cодержимое каталога синхронизируется через rsync в cron'е. Так
>вот теперь так сложились звезды, что эти машины нужно разнести на
>разные физические хосты.

Стоило сделать общее блочное устройство, с, например, GFS, которое и отдать двум виртуалкам.

>Так вот, между ними нужно сохранить этот общий каталог, !!! _с минимальными
>ресурсозатратами_. Есть какие-то идеи? рапределенные ФС или что-то еще? У кого-то
>реализовано нечто подобное?
>
>На данный момент есть идея, чтоб фронтенд отдавал этот каталог бэкэнду по
>WebDAV2.
>P.S. Самбу и NFS не предлагать, эту идею зарубили на корню, самба
>громоздкая, nfs глючит ( про nfs доводы не приведу, ибо как
>не от меня был посыл).

Как бюджетный вариант, DRBD + GFS/OCFS, но будет работать существенно медленнее, чем если бы локальный и пошаренный GFS/OCFS

Так же, можно оставить и как раньше rsync по крону :)

Высказать мнение | Ответить | Правка | ^ | Наверх | Cообщить модератору

2. "синхронизация каталога на высоконагруженных узлах."  +/
Сообщение от daevy (ok) on 11-Авг-10, 13:51 
>Стоило сделать общее блочное устройство, с, например, GFS, которое и отдать двум
>виртуалкам.

тут потребуется к gfs еще и iscsi+cman+clvm, как оно к потреблению ресурсов?

>Так же, можно оставить и как раньше rsync по крону :)

rsync выполняется раз в минуту, хочется чтобы появившийся файлик был тутже увиден на обоих узлах, а не по прошествии rsync'а

p.s. сенгз за оперативность:)

Высказать мнение | Ответить | Правка | ^ | Наверх | Cообщить модератору

8. "синхронизация каталога на высоконагруженных узлах."  +/
Сообщение от sdog (ok) on 11-Авг-10, 23:30 
>rsync выполняется раз в минуту, хочется чтобы появившийся файлик был тутже увиден
>на обоих узлах, а не по прошествии rsync'а
>

inotify + rsync или inotify + custom scripts

Высказать мнение | Ответить | Правка | ^ | Наверх | Cообщить модератору

3. "синхронизация каталога на высоконагруженных узлах."  +/
Сообщение от daevy (ok) on 11-Авг-10, 13:53 
а вобще есть реальные примеры внедрения gfs ? как оно себя ведет в реальных условиях?
Высказать мнение | Ответить | Правка | ^ | Наверх | Cообщить модератору

4. "синхронизация каталога на высоконагруженных узлах."  +/
Сообщение от sHaggY_caT (ok) on 11-Авг-10, 14:11 
>а вобще есть реальные примеры внедрения gfs ? как оно себя ведет
>в реальных условиях?

Есть. Например см. агитки в pdf на сайте vdel:  
http://vdel.ru/redhat/gfs

В Вашем случае главным тормозом будет DRBD. Если есть бюджет, замените его на DAS с 2-4 SAS/SCSI хвостами (не для multipath, не тот маштаб, а для маштабирования кластера до 4 нод).

Дешевые более-менее отказоустойчивые DAS с двумя "головами" есть, например, у Infortrend.

Высказать мнение | Ответить | Правка | ^ | Наверх | Cообщить модератору

6. "синхронизация каталога на высоконагруженных узлах."  +/
Сообщение от daevy (ok) on 11-Авг-10, 14:28 
купить DAS нет возможности, нужно уложиться в существующие мощности.
Высказать мнение | Ответить | Правка | ^ | Наверх | Cообщить модератору

5. "синхронизация каталога на высоконагруженных узлах."  +/
Сообщение от Andrey Mitrofanov on 11-Авг-10, 14:24 
>рапределенные ФС или что-то еще?

Что-то ещё. :)

Если нужны одни и теж файлы на двух веб-серверах с копированием хранилищ, то можно было бы попробовать бы приккрутить что-то типа http://www.opennet.me/tips/2098_fedora_update_nginx.shtml , чтоб каждый из фронт-ендов проверял, есть ли запрашиваемый клиентом файл локально, если нет, брал бы его с др.узла (если и там нет -- не циклиться, а выдавать 404~) и клал в локальный сторадж.

Нет, не делал, только умные %) идеи.

Высказать мнение | Ответить | Правка | ^ | Наверх | Cообщить модератору

7. "синхронизация каталога на высоконагруженных узлах."  +/
Сообщение от daevy (ok) on 11-Авг-10, 14:34 

>Если нужны одни и теж файлы на двух веб-серверах с копированием хранилищ,
>то можно было бы попробовать бы приккрутить что-то типа http://www.opennet.me/tips/2098_fedora_update_nginx.shtml ,
>чтоб каждый из фронт-ендов проверял, есть ли запрашиваемый клиентом файл локально,
>если нет, брал бы его с др.узла (если и там нет
>-- не циклиться, а выдавать 404~) и клал в локальный сторадж.
>
>
>Нет, не делал, только умные %) идеи.

неплохая идея, надо обмозговать, здесь важно что не придется плодить сущностей))

Высказать мнение | Ответить | Правка | ^ | Наверх | Cообщить модератору

Архив | Удалить

Рекомендовать для помещения в FAQ | Индекс форумов | Темы | Пред. тема | След. тема




Партнёры:
PostgresPro
Inferno Solutions
Hosting by Hoster.ru
Хостинг:

Закладки на сайте
Проследить за страницей
Created 1996-2025 by Maxim Chirkov
Добавить, Поддержать, Вебмастеру