The OpenNET Project / Index page

[ новости /+++ | форум | теги | ]

форумы  помощь  поиск  регистрация  майллист  вход/выход  слежка  RSS
"Неравномерная загрузка backend device в DRBD"
Вариант для распечатки  
Пред. тема | След. тема 
Форум Открытые системы на сервере (Загрузка / Linux)
Изначальное сообщение [ Отслеживать ]

"Неравномерная загрузка backend device в DRBD"  +/
Сообщение от Kasenna (ok) on 02-Июн-14, 16:23 
Привет друзья, долго решался написать сюда, помогите кто сможет плиз

Вобщем, у меня два достаточно мощных сервера с 24 процами каждый и по 24 гига оперативы каждый стоят на продакшене, реализован кластер на стэке cman, поверх которого стоит Pacemaker, который рулит всеми сервисами, сделано это было для того, чтобы реализовать DRBD в режиме Primary/Primary, поверх drbd стоит GFS2, таким образом есть общая файловая система, на которую можно писать одновременно на двух серверах и собственно всё это для CGPro кластера...

Там ещё есть ipvs, реализована схема Direct Routing для балансировки запросов на общий IP сервиса, в один момент времени на одном сервере MASTER процесс, на другом BACKUP, я думаю это тоже информация важна...

Дак собственно о чём это я, ммм, короче, какоето время назад оба сервера стали жутко тормозить, LA доходил до 20-30, а так, в среднем 3-5, причём загрузка не равномерная, один сервер всегда больше другого.

В разных топах вижу, что конкретно утилизируется backend device для drbd, вот с двух серверов:
Цитата:

[root@alpha /]# iostat -x sda3 1
Linux 2.6.32-431.5.1.el6.x86_64 (alpha) 06/02/2014 _x86_64_ (24 CPU)
avg-cpu: %user %nice %system %iowait %steal %idle
0.25 0.00 0.46 2.64 0.00 96.65
Device: rrqm/s wrqm/s r/s w/s rsec/s wsec/s avgrq-sz avgqu-sz await svctm %util
sda3 0.00 108.00 0.00 73.00 0.00 1464.00 20.05 1.21 16.52 10.11 73.80

[root@beta /]# iostat -x sda3 1
Linux 2.6.32-431.5.1.el6.x86_64 (beta) 06/02/2014 _x86_64_ (24 CPU)
avg-cpu: %user %nice %system %iowait %steal %idle
0.14 0.00 0.31 1.62 0.00 97.93
Device: rrqm/s wrqm/s r/s w/s rsec/s wsec/s avgrq-sz avgqu-sz await svctm %util
sda3 0.05 83.45 2.36 53.62 56.91 1121.33 21.05 0.06 1.03 0.88 4.95


и получается что alpha ВСЕГДА загружен почти на 100, а beta, всё в норме...

Я грешным делом начал подозревать IPVS, так как он с ядром напрямую работает, и то, что тормозить стали оба сервера одновременно.
К сожалению просто так отключать и включать сервисы я уже не буду, так что надо из этого как-то понять в чём тут нахрен делоVery Happy

P.S., после недавней перезагрузки многочисленной серверов у меня эти тормоза пропали на пару недель, но недавно всё возвратилось...

ядро: 2.6.32-431.5.1.el6.x86_64
DRBD: version: 8.4.4 (api:1/proto:86-101)
Pacemaker: pacemaker-1.1.10-14.el6.x86_64
CMAN: cman-3.0.12.1-59.el6.x86_64
CMAN: stonith-enabled: true

Ответить | Правка | Cообщить модератору

Оглавление

Сообщения по теме [Сортировка по времени | RSS]


1. "Неравномерная загрузка backend device в DRBD"  +/
Сообщение от Kasenna (ok) on 09-Июн-14, 15:48 
ну как, идей пока нет?)
Ответить | Правка | ^ к родителю #0 | Наверх | Cообщить модератору

Архив | Удалить

Рекомендовать для помещения в FAQ | Индекс форумов | Темы | Пред. тема | След. тема




Партнёры:
PostgresPro
Inferno Solutions
Hosting by Hoster.ru
Хостинг:

Закладки на сайте
Проследить за страницей
Created 1996-2025 by Maxim Chirkov
Добавить, Поддержать, Вебмастеру