URL: https://www.opennet.me/cgi-bin/openforum/vsluhboard.cgi
Форум: vsluhforumID1
Нить номер: 90453
[ Назад ]

Исходное сообщение
"Juniper или CentOS для BGP-рутера с потоком от 3Гигабит и выше"

Отправлено duda6753 , 01-Дек-10 17:45 
Опишу вкратце задачу.
Есть провайдер, у которого назревает потребность сделать определенные шаги в модернизации BackBone. Провайдер имеет несколько магистральных каналов на апстримов, суммарная емкость этих каналов около 2 Гигабит/с. Поскольку Инет нынче дешевеет раз в сто быстрее, чем оборудование Cisco or Juniper, покупать ту же Cisco 72xx все равно не имеет смысла ( она не окупит себя за короткий срок и все равно приведет в тупик по пропускной способности). С Жунипером  ( или Cisco ASR) еще сложнее, потому что он кусается по цене - аж гавкает.  Встает вопрос, как и чем заменять текущий BGP-рутер на хорошем брэндовом серверном железе + серверная платформа одного из Linux-ов, но всего лишь с гигабитными сетевухами. Как вариант рассматривается платформа CentOS 5.5 Release на брэндовом оборудовании (Dell, HP) с поддержкой сетевух пропускной способностью до 10Гигабит/с. Само собой, потребуется заменить опорные свичи на такие, которые умеют понимать тоже 10 Гиг. Но главный вопрос - это выбор сетевых карт в CentOS, которые туда не просто встанут, но еще и позволят реально пропускать через ядро потоки до 10 Гиг как минимум. Что можно рассматривать в качестве вариантов для данного случая?  Заранее признателен за конструктив.

Содержание

Сообщения в этом обсуждении
"Juniper или CentOS для BGP-рутера с потоком от 3Гигабит и выше"
Отправлено none , 02-Дек-10 03:43 
Гонять через один копьютер более 3-gbps еще та лотерея - лучше схему маршрутизации поменять. Можно несколько не брендовых компьютеров поставить с резервированием и "обычными" (intel 82576) гигабитами. Или на входящий (его обычно в пару раз больше) трафик б/у L3 полусвич (от 6500 sup2/msfc2 или 4900M) поставить, а на исход (Full view) компьютер или пару.

PS
Из 10Gbps сетевух лучше всего должен подойти - 82599ES. По поводу CentOS можно попробовать, однако ядрышко и некоторые сервисы рано или поздно повлекут необходимость пересобрать совсем свежак c левыми патчами и/или не родной конфигурацией и иногда _ОЧЕНЬ_ оперативно (привет qugga ASN4 :), поэтому для таких задач удобно сразу gentoo ставить.


"Juniper или CentOS для BGP-рутера с потоком от 3Гигабит и выше"
Отправлено duda6753 , 02-Дек-10 11:11 
Да вот насчет лотереи все понятно и через тот же Catalyst 6500 :-) Он же в любом случае на таких потоках загнется скорее, чем тот же Dell PowerEdge серии поновее под Gentoo. Да и когда каналы на каждого апстрима перескочат порог в 700-800 Мбит, все равно придется ставить карточки с поддержкой 10G. Насчет CentOS по поводу зебры грабли, увы, известны давно, потому и спрашиваю, поменялось ли что или нет. Если по-прежнему с зеброй там все так , как было год назад, тогда насчет Gentoo согласен на все 100%. А что по опыту известно про процедуры прописывания таких карт с привязкой к отдельному ядру процессора? Имеет смысл каждому процу отдавать по отдельной карточке ( к примеру, четырехядерный проц с четырьмя 10G картами на борту)?

"Juniper или CentOS для BGP-рутера с потоком от 3Гигабит и выше"
Отправлено Дядя Федор , 02-Дек-10 12:05 
> Да вот насчет лотереи все понятно и через тот же Catalyst 6500
> :-) Он же в любом случае на таких потоках загнется скорее,
> чем тот же Dell PowerEdge серии поновее под Gentoo.

Простите, но не согласен. В нашей сети вполне себе успешно работает именно 6500. Cейчас переходим в скором времени на 10G. При постепенном увеличении за гиг (сейчас поток в пике достигает 1.2 гига) использовали Etherchannel. На мой взгляд аппаратное свичевание на АСИКах (что мы имеем в случае цисок) всегда будет лучше софтового, которое мы имеем в случае описанного Вами Дэлла и Дженты (собственно, выбор дистрибутива не столь важен - все равно ядро для таких потоков допиливать придется). А не дай Бог, придется Вам ещё и шейпить - все, кранты - проходили на 4 серваках Дженты. В итоге перешли на цисковый SCE и забыли о всех проблемах. Стоимость оного, конечно, существенно дороже платформы PC.



"Juniper или CentOS для BGP-рутера с потоком от 3Гигабит и выше"
Отправлено None , 02-Дек-10 12:57 
> Да вот насчет лотереи все понятно и через тот же Catalyst 6500
> :-)
> Он же в любом случае на таких потоках загнется скорее,
> чем тот же Dell PowerEdge серии поновее под Gentoo.

пробовали ?) даже в самой овощной стабильно молотит куда большие объемы

> когда каналы на каждого апстрима перескочат порог в 700-800 Мбит, все
> равно придется ставить карточки с поддержкой 10G.

можно сделать пару/... bgp l3 линков + load-sharing, про Ether-Channel уже сказали

> Насчет CentOS по поводу
> зебры грабли, увы, известны давно, потому и спрашиваю, поменялось ли что
> или нет. Если по-прежнему с зеброй там все так , как
> было год назад, тогда насчет Gentoo согласен на все 100%.

не знаю как там с кваггой (ловил баг когда еще во всех дистрах было ...), однако ядро с FIB_TRIE или ipt_netflow захочется сразу, а в CentOS-е с не "зводскими ядрами" особого смысла не вижу


> А
> что по опыту известно про процедуры прописывания таких карт с привязкой
> к отдельному ядру процессора? Имеет смысл каждому процу отдавать по отдельной
> карточке ( к примеру, четырехядерный проц с четырьмя 10G картами на
> борту)?

у модных интеловских карточек (82576 и выше) несколько (8, а у 10g их еще больше) аппаратных очередей + MSI для каждой, соотвественно эти очереди уже и привязываются к ядрам, у меня irqbalance справлялся сам и с некоторого уровня нагрузки это имело эффект

+ так же ring буфера на макс и coalesce правильный подобрать


"Juniper или CentOS для BGP-рутера с потоком от 3Гигабит и выше"
Отправлено Аноним , 02-Дек-10 16:48 
Если говорить про BGP-бордер, то надо брать Juniper MX80. Все остальные предложения, по поводу PC & CentOS, для очень смелых инженеров-садомазохистов готовых жить на работе.


"Juniper или CentOS для BGP-рутера с потоком от 3Гигабит и выше"
Отправлено none , 04-Дек-10 06:06 
http://deineka.net/2010/11/16/juniper-mx80-novye-bandly-i-sluxi/

MX80 как бы, но проблема в том трафик прет уже и у совсем небольших в замкадье, а учитывая цены (а таких жлезок по хорошему пара нужна) многим легче на поюзаной 4900M чего-нибудь зафильтровать, да немного в PC поигратся - и это куда правильней в их ситуации


"Juniper или CentOS для BGP-рутера с потоком от 3Гигабит и выше"
Отправлено Serg , 10-Дек-10 00:19 
>[оверквотинг удален]
> что он кусается по цене - аж гавкает.  Встает вопрос,
> как и чем заменять текущий BGP-рутер на хорошем брэндовом серверном железе
> + серверная платформа одного из Linux-ов, но всего лишь с гигабитными
> сетевухами. Как вариант рассматривается платформа CentOS 5.5 Release на брэндовом оборудовании
> (Dell, HP) с поддержкой сетевух пропускной способностью до 10Гигабит/с. Само собой,
> потребуется заменить опорные свичи на такие, которые умеют понимать тоже 10
> Гиг. Но главный вопрос - это выбор сетевых карт в CentOS,
> которые туда не просто встанут, но еще и позволят реально пропускать
> через ядро потоки до 10 Гиг как минимум. Что можно рассматривать
> в качестве вариантов для данного случая?  Заранее признателен за конструктив.


"Juniper или CentOS для BGP-рутера с потоком от 3Гигабит и выше"
Отправлено Serg , 10-Дек-10 00:19 
>[оверквотинг удален]
> что он кусается по цене - аж гавкает.  Встает вопрос,
> как и чем заменять текущий BGP-рутер на хорошем брэндовом серверном железе
> + серверная платформа одного из Linux-ов, но всего лишь с гигабитными
> сетевухами. Как вариант рассматривается платформа CentOS 5.5 Release на брэндовом оборудовании
> (Dell, HP) с поддержкой сетевух пропускной способностью до 10Гигабит/с. Само собой,
> потребуется заменить опорные свичи на такие, которые умеют понимать тоже 10
> Гиг. Но главный вопрос - это выбор сетевых карт в CentOS,
> которые туда не просто встанут, но еще и позволят реально пропускать
> через ядро потоки до 10 Гиг как минимум. Что можно рассматривать
> в качестве вариантов для данного случая?  Заранее признателен за конструктив.


"Juniper или CentOS для BGP-рутера с потоком от 3Гигабит и выше"
Отправлено onorua , 10-Дек-10 01:06 
>[оверквотинг удален]
> что он кусается по цене - аж гавкает.  Встает вопрос,
> как и чем заменять текущий BGP-рутер на хорошем брэндовом серверном железе
> + серверная платформа одного из Linux-ов, но всего лишь с гигабитными
> сетевухами. Как вариант рассматривается платформа CentOS 5.5 Release на брэндовом оборудовании
> (Dell, HP) с поддержкой сетевух пропускной способностью до 10Гигабит/с. Само собой,
> потребуется заменить опорные свичи на такие, которые умеют понимать тоже 10
> Гиг. Но главный вопрос - это выбор сетевых карт в CentOS,
> которые туда не просто встанут, но еще и позволят реально пропускать
> через ядро потоки до 10 Гиг как минимум. Что можно рассматривать
> в качестве вариантов для данного случая?  Заранее признателен за конструктив.

http://www.vyatta.com/products/product_comparison.php
эта vyatta имеет Juniper-like CLI, а внутрях у нее Debian. Поддержка может помочь с оборудованием если будете брать "подписку".
Это не реклама, просто знаю пару человек которые 10гиг/с в датацентрах германии гоняют на этом. Может быть поможет.


"Juniper или CentOS для BGP-рутера с потоком от 3Гигабит и выше"
Отправлено duda6753 , 10-Дек-10 11:11 
Весьма прогнозируемый ответ по поводу  чего-то железное under Debian.
Все-таки, ситуация действительно диктуется сильным ростом трафика при удешевлении Инета до цен папирос ( а скоро - семечек) на фоне стабильно высоких цен на те же ЖУниперы.
А можете подсказать, где и какие именно модели Vyatta пользует народ применительно к моему ТЗ? Заранее мерси.


"Juniper или CentOS для BGP-рутера с потоком от 3Гигабит и выше"
Отправлено onorua , 10-Дек-10 21:23 
> Весьма прогнозируемый ответ по поводу  чего-то железное under Debian.
> Все-таки, ситуация действительно диктуется сильным ростом трафика при удешевлении Инета
> до цен папирос ( а скоро - семечек) на фоне стабильно
> высоких цен на те же ЖУниперы.
> А можете подсказать, где и какие именно модели Vyatta пользует народ применительно
> к моему ТЗ? Заранее мерси.

Эта Vyatta ставится практически на все (потому что Debian опять таки), так что можете собрать сервер по бюджету сами при желании. Мой знакомый на каком-то Dell гоняет 10Гиг, модель к сожалению не знаю, не видел его с пол года наверно.
Как я уже говорил - к ним в техподдержку можно обратиться они помогут выбрать нужную модель под конкретно ваши нужды если у них не будет нужной железяки - скажут модель сервера который потянет.