The OpenNET Project / Index page

[ новости /+++ | форум | теги | ]

форумы  помощь  поиск  регистрация  майллист  ВХОД  слежка  RSS
"Передача потока данных между серверами"
Вариант для распечатки Архивированная нить - только для чтения! 
Пред. тема | След. тема 
Форумы OpenNET: Виртуальная конференция (Public)
Изначальное сообщение [Проследить за развитием треда]

"Передача потока данных между серверами"
Сообщение от _and_ emailИскать по авторуВ закладки(ok) on 14-Сен-04, 10:58  (MSK)
Есть 2 сервера Unix(FreeBSD, Linux). На 1-м ведется лог ~1Гб в день. Нужно чтобы копия этого лога гарантированно появлялась и на 2-м сервере, причем новые записи шли в реальном времени. Канал связи может быть довольно плохой (временами плохой).
Подскажите как можно это организовать, желательно как можно более стандартными методами.
  Рекомендовать в FAQ | Cообщить модератору | Наверх

 Оглавление

Индекс форумов | Темы | Пред. тема | След. тема
Сообщения по теме

1. "Передача потока данных между серверами"
Сообщение от A Clockwork Orange Искать по авторуВ закладки on 14-Сен-04, 11:05  (MSK)
/etc/syslog.conf

# uncomment this to enable logging to a remote loghost named loghost
#*.*    @loghost

  Рекомендовать в FAQ | Cообщить модератору | Наверх

2. "Передача потока данных между серверами"
Сообщение от _and_ emailИскать по авторуВ закладки(ok) on 14-Сен-04, 11:21  (MSK)
>/etc/syslog.conf
>
># uncomment this to enable logging to a remote loghost named loghost
>
>#*.*    @loghost

Система syslog не гарантирует запись в лог удаленного сервера.
Монтировать удаленную файловую систему кажется тоже ненадежно при больших объемах данных.
Нужна схема работы при сбоях в сети, перезагрузках серверов.
Возможно это должна быть пара клиент-сервер (сервер на машину где log, клиент где копия) с протоколом подтверждения передачи данных, с ожиданием и т.п.

  Рекомендовать в FAQ | Cообщить модератору | Наверх

3. "Передача потока данных между серверами"
Сообщение от A Clockwork Orange Искать по авторуВ закладки on 14-Сен-04, 12:08  (MSK)
через com порт
  Рекомендовать в FAQ | Cообщить модератору | Наверх

4. "Передача потока данных между серверами"
Сообщение от _and_ emailИскать по авторуВ закладки(ok) on 14-Сен-04, 12:34  (MSK)
>через com порт
Сервера расположены далеко.
Канал связи: Ethernet 10Mбит через несколько маршрутизаторов.


  Рекомендовать в FAQ | Cообщить модератору | Наверх

5. "Передача потока данных между серверами"
Сообщение от Maxim Kuznetsov Искать по авторуВ закладки on 14-Сен-04, 12:47  (MSK)
>>через com порт
>Сервера расположены далеко.
>Канал связи: Ethernet 10Mбит через несколько маршрутизаторов.

syslog + logrotate + rsync/rdist
сислогом кидать всё что можно в реальном времени,
периодически делать logrotate и синхронизовать результаты (если что-то потерялось из-за дерьмового канала - должно будет дойти)
и на серверах время должно быть синхронизированно..

  Рекомендовать в FAQ | Cообщить модератору | Наверх

6. "Передача потока данных между серверами"
Сообщение от co6aka Искать по авторуВ закладки(??) on 14-Сен-04, 14:12  (MSK)
Возможно попробовать написать скрипт читающий лог на 1 машине и кидающий данные на 2 машину в базу использую транзакции(postgresql, mysql 4.x и т.д.)
  Рекомендовать в FAQ | Cообщить модератору | Наверх

8. "Передача потока данных между серверами"
Сообщение от _and_ emailИскать по авторуВ закладки(ok) on 14-Сен-04, 17:08  (MSK)
>Возможно попробовать написать скрипт читающий лог на 1 машине и кидающий данные
>на 2 машину в базу использую транзакции(postgresql, mysql 4.x и т.д.)
>
Оригинальная идея!!! И наверное работоспособная. Единственное, по моему, БД слишком сложная программа для такой задачи.

  Рекомендовать в FAQ | Cообщить модератору | Наверх

7. "Передача потока данных между серверами"
Сообщение от _and_ emailИскать по авторуВ закладки(ok) on 14-Сен-04, 17:02  (MSK)
>syslog + logrotate + rsync/rdist
>сислогом кидать всё что можно в реальном времени,
>периодически делать logrotate и синхронизовать результаты (если что-то потерялось из-за дерьмового канала
>- должно будет дойти)
>и на серверах время должно быть синхронизированно..
В принцепе можно, но не удобно.
Лог на 2-й машине - исходные данные для перерабатывающей программы.
Из-за того что rdist может подправить файл придется как то ее запускать заного (Нарушается конвеерность обработки). К тому же rdist, насколько я понимаю, тупо копирует файлы целиком (если 1 строчка выпала, весь файл будет копироваться целиком занового).

  Рекомендовать в FAQ | Cообщить модератору | Наверх


Удалить

Индекс форумов | Темы | Пред. тема | След. тема
Пожалуйста, прежде чем написать сообщение, ознакомьтесь с данными рекомендациями.




Партнёры:
PostgresPro
Inferno Solutions
Hosting by Hoster.ru
Хостинг:

Закладки на сайте
Проследить за страницей
Created 1996-2025 by Maxim Chirkov
Добавить, Поддержать, Вебмастеру