URL: https://www.opennet.me/cgi-bin/openforum/vsluhboard.cgi
Форум: vsluhforumID8
Нить номер: 7263
[ Назад ]

Исходное сообщение
"Навигация в текстовом файле"

Отправлено AndyTacker , 10-Июн-11 20:46 
Пишу пакетный обработчик больших текстовых файлов (более Гб)

Как реализовать следующие инструкции:

1) Напечатать все строки, которые на 10 выше искомой и на 5 строк ниже. (находим строку удовлетворяющую критерию поиска (ключевую) и печатаем две строки: выше на 10 строк и ниже на 5, и так для всех ключевых строк.

2) Найти строку по ключу, провести поиск вверх по другому ключу и напечатать найденную строку. И так для всех ключевых строк.

Заранее спасибо за ответ, или хотя направление где искать.


Содержание

Сообщения в этом обсуждении
"Навигация в текстовом файле"
Отправлено ACCA , 12-Июн-11 01:01 
> Пишу пакетный обработчик больших текстовых файлов (более Гб)

По нынешним временам - ни фига не большой. Засоси в массив по строке на элемент массива и играйся.


Кошерно тоже можно, только ненужной возни больше.

> 1) Напечатать все строки, которые на 10 выше искомой и на 5

Сделай кольцевой буфер на 16 элементов. Набей строками. Потом проверь 11-й элемент. Если совпало, забирай первый и последний. Можешь взять RingBuffer с CPAN, можешь сам написать - штука достаточно тривиальная.

Если совсем лень возиться - набивай строки в список с помощью push, выбрасывай с помощью shift, всё время проверяя 11-й элемент:

for (my $i=0; $i< 15; $i++) {
    push @buff, scalar(<>);
}

while (<>) {
    push @buff, $_;
    if ($buff[10] =~ /regexp/) {
        print @buff[0,10,15];
        ... other stuff ...
    }
    shift @buf;
}

> 2) Найти строку по ключу, провести поиск вверх по другому ключу и
> напечатать найденную строку. И так для всех ключевых строк.

Я бы это за два прохода сделал. Сначала сделал индекс первых ключей - где сидят и кто у них второй ключ, за второй проход нашёл ближайшие вторые ключи и вывел их.

Если ключей ожидается больше, чем доступной памяти, используй Tie::File или DBM.


"Навигация в текстовом файле"
Отправлено AndyTacker , 14-Июн-11 14:04 
спасибо за развернутый ответ.. хотя не совсем то, что искал, но помогло продвинуться в проекте..

а что такое DBM?


"Навигация в текстовом файле"
Отправлено ACCA , 16-Июн-11 18:31 
> а что такое DBM?

Спроси у гугла perldoc dbm


"Навигация в текстовом файле"
Отправлено cryo , 14-Июн-11 11:58 
> 1) Напечатать все строки, которые на 10 выше искомой и на 5
> строк ниже. (находим строку удовлетворяющую критерию поиска (ключевую) и печатаем две
> строки: выше на 10 строк и ниже на 5, и так
> для всех ключевых строк.

По первому добавить нечего, кольцевой буфер - вполне.

> 2) Найти строку по ключу, провести поиск вверх по другому ключу и
> напечатать найденную строку. И так для всех ключевых строк.

Ищи сразу оба ключа, строку с последним найденным вторым ключом сохраняй.
Встретил первый ключ - вывел сохраненную строку со вторым ключом.
Один проход.


"Навигация в текстовом файле"
Отправлено AndyTacker , 14-Июн-11 14:07 
спасибо за идею..

вот бы еще что-нить придумать с последующими строками..

просто задача часто такая:

вывести 10-ую и 15-ую строку после ключа, но между ними может встречаться ключ (то есть анализ ключа нельзя прерывать)


"Навигация в текстовом файле"
Отправлено ACCA , 16-Июн-11 18:34 
> вывести 10-ую и 15-ую строку после ключа, но между ними может встречаться
> ключ (то есть анализ ключа нельзя прерывать)

Продолжай поиск - ты же не потерял строки между 10-ой и 15-ой. На одном из следующих шагов строка с ключом окажется 11-ой и regexp её увидит.

Ты код примера пробовал запускать?


"Навигация в текстовом файле"
Отправлено ACCA , 16-Июн-11 18:30 
>> 2) Найти строку по ключу, провести поиск вверх по другому ключу и
>> напечатать найденную строку. И так для всех ключевых строк.
> Ищи сразу оба ключа, строку с последним найденным вторым ключом сохраняй.
> Встретил первый ключ - вывел сохраненную строку со вторым ключом.
> Один проход.

Насколько я понял, второй ключ ты получишь из строки с первым ключом. Заранее он неизвестен.
Может быть более одной строки с таким первым ключом
Первых ключей может быть много