URL: https://www.opennet.me/cgi-bin/openforum/vsluhboard.cgi
Форум: vsluhforumID1
Нить номер: 87528
[ Назад ]

Исходное сообщение
"Gigabit Ethernet"

Отправлено GFORGX , 04-Дек-09 21:11 
Доброго времени суток!

В локальной сети имеется PPPoE-сервер, по которому ходит внутрисетевой торрент-трафик и трафик пользовательских серверов.

Конфигурация сервера: 2 двухъядерных (именно двухъядерных, не HT) P4 Xeon, 4 гигабитных интерфейса Broadcom.

4 интерфейса объединены в round-robin бондинг, на свитче настроен link aggregation для нужных портов. Прерывания сетевушек перекинуты на первый физический процессор (чтобы не было прыжков между процессорами во время обработки пакетов), процессы pppd перекидываются на второй физический процессор.

Трафик шейпится, но по вечерам этих 4 гигабитов иногда начинает не хватать, ибо физически они не дают больше ~1.5 Gbps вместе взятые. Максимальный достижимый packet rate - не более 120 kpkt/s.

Пробовали менять настройки TCP в net.core и net.ipv4 по http://www.opennet.me/docs/RUS/GigabitEthernet/, ничуть не изменило ситуацию.

Ядро - 2.6.28.7, драйвер - tg3.

Правил iptables немного, если это имеет значение.

Будем очень благодарны, если кто-то поделится информацией по данному поводу.

Kind regards,
Sergey.


Содержание

Сообщения в этом обсуждении
"Gigabit Ethernet"
Отправлено GFORGX , 04-Дек-09 21:12 
Да, забыл, в top-е всё время висят ksoftirqd ядер первого процессора.

"Gigabit Ethernet"
Отправлено GFORGX , 04-Дек-09 21:22 
>Да, забыл, в top-е всё время висят ksoftirqd ядер первого процессора.

И ещё, читал вот эту PDF-шку: http://www.academypublisher.com/jnw/vol02/no03/jnw02030617.pdf, там throughput-а в 2.5Gbps добивались на стенде с ядром с патчем для skbuff recycling, который, судя по всему, имеется только для драйверов sundance и e1000.


"Gigabit Ethernet"
Отправлено сабакка , 04-Дек-09 23:35 
а если раскидать прерывания по процессорам - 2х2 или от каждой сетевой, на свой проц?

"Gigabit Ethernet"
Отправлено GFORGX , 05-Дек-09 12:09 
>а если раскидать прерывания по процессорам - 2х2 или от каждой сетевой,
>на свой проц?

Пробовали - в итоге ksoftirqd до 100% и 721 ошибка WAN PPPoE у абонентов.

В каком-то мейллисте нагугливал о том, что это из-за постоянного переключения между кэшами физических процессоров.

По 2 на каждый - возможно не хватит ресурсов для pppd.


"Gigabit Ethernet"
Отправлено GFORGX , 05-Дек-09 12:14 
В понедельник (сейчас выходные, не хочется проблем) попробуем 802.3ad вместо balance-rr, если поможет - напишу.

"Gigabit Ethernet"
Отправлено сабакка , 05-Дек-09 18:16 
Jumbo Frames?

"Gigabit Ethernet"
Отправлено GFORGX , 07-Дек-09 14:32 
>Jumbo Frames?

Почитал, попробую, спасибо.