The OpenNET Project / Index page

[ новости /+++ | форум | теги | ]

форумы  помощь  поиск  регистрация  майллист  вход/выход  слежка  RSS
"параллельный резолв dns"
Вариант для распечатки  
Пред. тема | След. тема 
Форумы OpenNET: Виртуальная конференция (Public)
Изначальное сообщение [ Отслеживать ]

"параллельный резолв dns"  
Сообщение от Андрей (??) on 28-Янв-09, 21:09 

Добрый вечер, друзья!

Возникла задачка зарезолвить 500 хостов и сохранить их в кэше локального dns-proxy. В кач-ве dns-proxy используется pdnsd. Можно его как-нибудь заставить резолвить параллельно 500 хостов с разных или с одного dns-сервера?
Нужно именно в параллельном режиме, т.е. последовательно долго.

Может быть какой-нибудь другой dns-proxy умеет резовить в параллельном режиме?

Если кто сталкивался с такой задачкой - отзовитесь, пожалуйста. Спасибо.

Высказать мнение | Ответить | Правка | Cообщить модератору

 Оглавление

Сообщения по теме [Сортировка по времени | RSS]


1. "параллельный резолв dns"  
Сообщение от SubGun (ok) on 29-Янв-09, 11:16 
Мсье знает толк в извращениях.
Высказать мнение | Ответить | Правка | Наверх | Cообщить модератору

2. "параллельный резолв dns"  
Сообщение от Андрей (??) on 29-Янв-09, 11:42 
>Мсье знает толк в извращениях.

Мне нужно скачать 1'000'000 страниц пачками по 500 с разных доменов.
Само скачивание 500 страниц занимает 5 секунд, а последовательный резловинг 500 хостов - 50 секунд.

Высказать мнение | Ответить | Правка | Наверх | Cообщить модератору

3. "параллельный резолв dns"  
Сообщение от ronin (??) on 29-Янв-09, 13:20 
>Мне нужно скачать 1'000'000 страниц пачками по 500 с разных доменов.
>Само скачивание 500 страниц занимает 5 секунд, а последовательный резловинг 500 хостов
>- 50 секунд.

Думаю, проще будет тупо забить все эти хосты в /etc/hosts

И убедиться что в /etc/nsswitch.conf порядок поиска хостов начинается с files (должно быть по дефолту).

Высказать мнение | Ответить | Правка | Наверх | Cообщить модератору

4. "параллельный резолв dns"  
Сообщение от Андрей (??) on 29-Янв-09, 13:24 
>>Мне нужно скачать 1'000'000 страниц пачками по 500 с разных доменов.
>>Само скачивание 500 страниц занимает 5 секунд, а последовательный резловинг 500 хостов
>>- 50 секунд.
>
>Думаю, проще будет тупо забить все эти хосты в /etc/hosts
>
>И убедиться что в /etc/nsswitch.conf порядок поиска хостов начинается с files (должно
>быть по дефолту).

В принципе этот вариант равозначен кэширующему днс-прокси, только в отличие от него не учитывает возможное изменение А-записей.

Вопрос был не в том где хранить зарезолвенные записи, а в том как их резолвить параллельно.

Высказать мнение | Ответить | Правка | Наверх | Cообщить модератору

5. "параллельный резолв dns"  
Сообщение от ronin (??) on 29-Янв-09, 14:09 
>В принципе этот вариант равозначен кэширующему днс-прокси, только в отличие от него
>не учитывает возможное изменение А-записей.
>
>Вопрос был не в том где хранить зарезолвенные записи, а в том
>как их резолвить параллельно.

Вариант с файлом - конечно не лучший, но адекватен задаче :-)
Про необходимость периодического обновления файла я в курсе; здесь можно по крону скриптец запускать. Или просто скриптец, который будет пингать эти машины, скажем, раз в 2-3 часа, или непосредственно перед запуском основной задачи, чтоб на момент её выполнения кеш уже содержал необходимые записи. Вопщем, обрастёт машина заплатами как вшами. Но это всё равно не кошерно.

Больше ничего конструктивного в голову не приходит. Тем более что с pdnsd никогда не работал.


respect,
ronin

Высказать мнение | Ответить | Правка | Наверх | Cообщить модератору

6. "параллельный резолв dns"  
Сообщение от Андрей (??) on 29-Янв-09, 21:30 
>[оверквотинг удален]
>раз в 2-3 часа, или непосредственно перед запуском основной задачи, чтоб
>на момент её выполнения кеш уже содержал необходимые записи. Вопщем, обрастёт
>машина заплатами как вшами. Но это всё равно не кошерно.
>
>Больше ничего конструктивного в голову не приходит. Тем более что с pdnsd
>никогда не работал.
>
>
>respect,
>ronin

Нашел решение. Бью 500 хостов на куски по 50 и пускаю 10 потоков:
dig host1.ru host2.ru host3.ru ... host10.ru A +short &
Выполняется ну примерно в 10 раз быстрее, чем последовательно =) Что и требовалось!


Высказать мнение | Ответить | Правка | Наверх | Cообщить модератору

Архив | Удалить

Индекс форумов | Темы | Пред. тема | След. тема
Оцените тред (1=ужас, 5=супер)? [ 1 | 2 | 3 | 4 | 5 ] [Рекомендовать для помещения в FAQ]




Партнёры:
PostgresPro
Inferno Solutions
Hosting by Hoster.ru
Хостинг:

Закладки на сайте
Проследить за страницей
Created 1996-2025 by Maxim Chirkov
Добавить, Поддержать, Вебмастеру