URL: https://www.opennet.me/cgi-bin/openforum/vsluhboard.cgi
Форум: vsluhforumID3
Нить номер: 69771
[ Назад ]

Исходное сообщение
"Раздел полезных советов: Опыт обслуживания базы 1С в PostgreSQL"

Отправлено auto_tips , 12-Авг-10 13:44 
Знакомство с СУБД PostgreSQL было определено выходом версии платформы "1С:Предприятие 8.1", в которой была реализована поддержка СУБД PostgreSQL. Но все встречи с PostgreSQL проходили на резервном сервере (с ОС Linux), где методом тестового использования решался вопрос об использовании PostgreSQL в качестве СУБД для рабочей базы 1С. В это время на основном сервере (с ОС Linux) база 1С работала в файл-серверном режиме.

До поры до времени шел процесс перехода со старой системы на 1С - нормативно справочная информация была перенесена заранее, а в это время переносились текущие остатки. Количество пользователей (менее 10) и размер файла базы 1С (менее 3Gb) позволяли работать в файл-серверном режиме.

Шло время. Пользователи по мере внедрения переводились из старой системы в 1С. Количество пользователей росло. Размер файла базы данных тоже увеличивался в размере. Настало время подключать к базе 1С удаленных пользователей в терминальном режиме (FreeNX). Количество лицензий опять пришлось увеличить. Хорошо, что получилось поменять один ключ на ключ с большим количеством пользовательских лицензий и количество компьютеров для менеджера лицензий не увеличилось.

И тут произошло самое скучное - размер базы данных 1С вырос до неприличных размеров. Все вместе, количество одновременно работающих в 1С пользователей более 10 и размер файла базы данных 1С более 4Gb, стало очень негативно сказываться на производительности работы пользователей в 1С.

Настало время серьезного знакомства с возможностью размещения базы 1С в СУБД PostgreSQL. Пользуясь знакомством с СУБД PostgreSQL, переезд на SQL-версию размещения данных 1С прошел быстро и без жертв (сервер с ОС Linux).

Время шло. Размер системного каталога PostgreSQL с базой 1C достиг размера 35Gb. Размер dt-файла выгрузки базы 1С стал где-то около 1.2Gb, а развернутая база на его основе 16Gb. Пришло время придумать что-то еще для обеспечения производительной работы пользователей в 1С. Пользуясь документацией PostgreSQL, которая идет в комплекте с СУБД, оформилось две команды по обслуживанию базы "baza1c_81" в PostgreSQL. Эти команды выполняют сбор мусора, выполнение сбора статистики о базе данных для работы планировщика запросов, переиндексацию:

   REINDEX DATABASE baza1c_81 FORCE;
   VACUUM FULL VERBOSE ANALYZE;

(Хотя с FULL в первой команде лучше для себя определиться еще раз самостоятельно, http://wiki.PostgreSQL.org/wiki/VACUUM_FULL и в документации PostgreSQL см. VACUUM).

Далее дело техники. Определили время запуска. В воскресенье с 17-00 до понедельника 6-00 в базе никого не бывает. В cron отключаем ночное архивирование базы в это время (а архивировать лучше как средствами 1С, так и pgdump).


Первым шагом в cron добавляем строку для создания архива:
Запускаем crontab -e:

   0 17 * * 0 /var/lib/pgsql/backups/pgdump.sh

   :wq

, где 0-мин, 17-час, *-день, *-месяц, 0-(день недели воскресенье);

Вторым шагом добавляем в cron строку выполнения первой команды :

   0 18 * * 0 /var/lib/pgsql/backups/vacuum.sh

, учтем 30 минут на работу pgdump.sh по созданию архива;

В vacuum.sh делаем стоп-старт сервера предприятия 1C, PostgreSQL, менеджера лицензий и VACUUM :

   #!/bin/sh
   # reindex BD
   PIDEL=`pidof Xvfb`
   if [ ! "$PIDEL" = "" ]; then
      ##иногда выгрузка из 1С в WINE зависает
      kill -9 $PIDEL
   fi
   # stop 1c-server
   /bin/sh /etc/rc.d/rc.1c stop
   #kill all running session nx
   /bin/sh /etc/NX/bin/nxserver --cleanup
   sleep 150
   #перешли на stop start
   /bin/sh /etc/NX/bin/nxserver --stop
   /bin/sh /etc/rc.d/rc.sshd stop
   rm /tmp/.nX*
   rm /tmp/.X*
   rm /tmp/.X11-unix/X29 ## следы от запуска Xvfb
   #--------------
   /bin/killall nxserver
   /bin/killall nxnode
   /bin/killall nxagent
   #
   sleep 150
   /bin/sh /etc/rc.d/rc.sshd start
   /bin/sh /etc/NX/bin/nxserver --start
   #--------------
   # start 1c-server
   sleep 150
   /bin/sh /etc/rc.d/rc.1c start
   sleep 150
   su postgres -c /var/lib/pgsql/backups/vacuumdb.sh

В vacuumdb.sh :

   #!/bin/sh
   psql -a -f /var/lib/pgsql/backups/vacuum.sql

В vacuum.sql :

   VACUUM FULL VERBOSE ANALYZE;

Команда по факту работает от 6 до 8 часов.

Вторым шагом добавляем в cron строку выполнения второй команды:

   30 3 * * 1 /var/lib/pgsql/backups/reindex.sh

,учтем время на работу vacuum.sh;

В reindex.sh все тоже, что и в vacuum.sh, за исключением одной строчки. Вместо su postgres -c /var/lib/pgsql/backups/vacuumdb.sh напишем su postgres -c /var/lib/pgsql/backups/reindexdb.sh.


В reindexdb.sh :

   #!/bin/sh
   psql -a -f /var/lib/pgsql/backups/reindex.sql

В reindex.sql :

   REINDEX DATABASE baza1c_81 FORCE;

И в каждый понедельник база готова к эффективной работе.

А время идет. Подумываем об использовании SSD-дисков для размещения WAL.

PS. Если начинаете править postgresql.conf, тогда после изменений убедитесь в успешном старте PostgreSQL c новым postgresql.conf.  Также необходимо убедиться в успешном создании архивной копии, лучше всего восстановив базу на резервном сервере из архивной копии.

URL:
Обсуждается: http://www.opennet.me/tips/info/2417.shtml


Содержание

Сообщения в этом обсуждении
"Опыт обслуживания базы 1С в PostgreSQL"
Отправлено Аноним , 12-Авг-10 13:44 
> учтем время на работу xxx.sh

А если не сумеете? Нужна только одна запись в cron, то есть пусть /var/lib/pgsql/backups/pgdump.sh в конце скрипта запускает /var/lib/pgsql/backups/vacuum.sh, а тот в конце - /var/lib/pgsql/backups/reindex.sh. И простоя не будет, и если вдруг какой-то скрипт будет выполняться дольше чем планировалось, ничего не обвалится.


"Опыт обслуживания базы 1С в PostgreSQL"
Отправлено KIrill , 12-Авг-10 13:51 
А зачем так много файлов?
Я использую такое:
#!/bin/sh

DATE=`/bin/date --date '-1 day' +%Y%m%d`
BACKUPDIR=/backup
PGUSER=postgres

/usr/bin/vacuumdb --all --analyze --full --quiet --username $PGUSER
for i in trade zup montage; do
        /usr/bin/find $BACKUPDIR/$i -type f -ctime +45 -delete
        /usr/bin/pg_dump --insert --blobs --format=custom \
                --username=$PGUSER --file=$BACKUPDIR/$i/$DATE.tgz $i
done

Правда сервер 1С находится на другой машине, скрипт запускаю в 5 утра, у нас в это время не работают.


"Опыт обслуживания базы 1С в PostgreSQL"
Отправлено Denis , 12-Авг-10 13:58 
А зачем "учитываем время работы скрпита" нельзя ли составить однострочник с последовательным выполнением всем команд с помощью &&?

"Опыт обслуживания базы 1С в PostgreSQL"
Отправлено igoree , 12-Авг-10 14:23 
лучше время работы скрипта не учитывать наугад, а сделать проверку на работу предыдущего перед запуском следующего, создавая первичным скриптом lock файл и удаляя его потом

"Опыт обслуживания базы 1С в PostgreSQL"
Отправлено anonim , 12-Авг-10 16:31 
Correct: OS GNU/Linux

"Опыт обслуживания базы 1С в PostgreSQL"
Отправлено ммм... , 12-Авг-10 20:42 
А что autovacuum не помогает? :(
И прям таки reindex делать нада???

"Опыт обслуживания базы 1С в PostgreSQL"
Отправлено Аноним , 11-Фев-11 01:24 
и ещё меня убивает что все кругом делают VACUUM FULL. Вы доки читали??????????
НЕ РЕКОМЕНДУЕТСЯ ЕГО ДЕЛАТЬ! СМОТРИТЕ http://wiki.postgresql.org/wiki/VACUUM_FULL#When_.28not.29_t...

"Опыт обслуживания базы 1С в PostgreSQL"
Отправлено japh , 12-Авг-10 23:55 
можно пояснить сакральный смысл REINDEX?
чем не угодил автовакум?

> Подумываем об использовании SSD-дисков для размещения WAL

это поможет, да.


"Опыт обслуживания базы 1С в PostgreSQL"
Отправлено ДяДя , 13-Авг-10 10:35 
Всё это хорошо, но без управляемых блокировок PostgreSQL использовать невозможно, если есть постоянный ввод документов и пользователей больше пяти.

"Опыт обслуживания базы 1С в PostgreSQL"
Отправлено Аноним , 20-Авг-10 09:55 
В 1с можно вручную прописать уровни блокировок и тогда постгресина становится вполне себе хорошей заменой MS SQL для 1с.

"Опыт обслуживания базы 1С в PostgreSQL"
Отправлено mma , 13-Авг-10 11:46 
что это такое. поясните, любопытно. я знаю про транзакции, а упровляемая блокировка это что?

"Опыт обслуживания базы 1С в PostgreSQL"
Отправлено трололо , 13-Авг-10 11:57 
>что это такое. поясните, любопытно. я знаю про транзакции, а упровляемая блокировка
>это что?

забанили в гугле?
http://v8.1c.ru/overview/datalockcontrol.htm

ЗЫ: объясните, мил человек, как можно умудриться сделать ошибку в слове "упрАвляемая"?


"Опыт обслуживания базы 1С в PostgreSQL"
Отправлено Аноним , 14-Авг-10 01:45 
> ЗЫ: объясните, мил человек, как можно умудриться сделать ошибку в слове "упрАвляемая"?

Помимо ошибок бывают ещё опечатки, это когда человек хотел написать правильную букву но ошибся и нажал не ту клавишу на клавиатуре. Так-то!


"Опыт обслуживания базы 1С в PostgreSQL"
Отправлено трололо , 16-Авг-10 10:19 
>> ЗЫ: объясните, мил человек, как можно умудриться сделать ошибку в слове "упрАвляемая"?
>
>Помимо ошибок бывают ещё опечатки, это когда человек хотел написать правильную букву
>но ошибся и нажал не ту клавишу на клавиатуре. Так-то!

человек осьминог? буковки о и а - как то не очень рядышком на клавиатуре. так-то.


"Опыт обслуживания базы 1С в PostgreSQL"
Отправлено Аноним , 15-Авг-10 00:02 
>http://v8.1c.ru/overview/datalockcontrol.htm

Пурга какая то .... У нас одному ERP'у вместо старого оракля подсунули постргресса ... молотит только пыль летит. А великие и ужасные 1C - не ослилили ...


"Опыт обслуживания базы 1С в PostgreSQL"
Отправлено stimpack , 16-Авг-10 17:25 
великие и ужасные 1с берут на работу с такой ЗП, что идут туда либо люди одной с директором 1С национальности, либо студенты. И в итоге код выходит курам на смех. То, что они еще живы - это лишь подтверждение тому, что качество софта мало влияет на успешность продукта.
аська, виндовс, 1с, оракл - все одного поля ягоды. И стыдно и завидно. Видать, стабильность разработки больше выгодна программерам, чем конечным пользователям. Которые голосуют кошельком :-)

"Опыт обслуживания базы 1С в PostgreSQL"
Отправлено stimpack , 16-Авг-10 17:26 
s/стабильность разработки/качество кода/



"Опыт обслуживания базы 1С в PostgreSQL"
Отправлено ДяДя , 16-Авг-10 19:33 
Это нельзя ни подтвердить ни опровергнуть.
Однако 1С-прогеры на испытательном сроке получают больше, чем начальник с 3-х летним опытом в Parallels.

"Опыт обслуживания базы 1С в PostgreSQL"
Отправлено stimpack , 18-Авг-10 10:50 
>Это нельзя ни подтвердить ни опровергнуть.
>Однако 1С-прогеры на испытательном сроке получают больше, чем начальник с 3-х летним
>опытом в Parallels.

"За что купил, за то и продаю", и не в курсе, что платит параллелс.


"Опыт обслуживания базы 1С в PostgreSQL"
Отправлено ДяДя , 18-Авг-10 12:39 
Можете сами это узнать, если интересно.

У приятеля сын C-прогером устроился в одну контору после института - 40 т.р.
Гуру у них получает 60 т.р.

Обычный 1С-ник с не очень большим опытом в паршивой фирме 80 т.р.


"Опыт обслуживания базы 1С в PostgreSQL"
Отправлено stimpack , 18-Авг-10 15:34 
Вы, вероятно, путаете понятия.
1С-ник, пишущий прикладные конфигурации в 1С-платформе для фирм-клиентов - это следующее звено в пищевой цепочке, жирное по деньгам, массовое и с низким порогом входа.

Я же говорю о людях, пишущих саму 1С-платформу, гнездящихся в офисе самой фирмы 1С.


"Опыт обслуживания базы 1С в PostgreSQL"
Отправлено hhh , 18-Авг-10 09:36 
>>великие и ужасные 1с берут на работу с такой ЗП, что идут туда либо люди одной с директором 1С национальности, либо студенты.

При чем тут национальность?

>>аська, виндовс, 1с, оракл - все одного поля ягоды. И стыдно и завидно.

У Вас есть примеры программ с безупречным кодом и работой?


"Опыт обслуживания базы 1С в PostgreSQL"
Отправлено stimpack , 18-Авг-10 10:49 
>При чем тут национальность?

имеется в виду закамуфлированный "гастарбайтер"
>У Вас есть примеры программ с безупречным кодом и работой?

В мире все относительно, не стоит применять атрибутику идеального мира. И, следуя этой же относительности, перечисленные софты явно не в топе общепризнанного качества.


"Опыт обслуживания базы 1С в PostgreSQL"
Отправлено Аноним , 20-Авг-10 15:19 
> У нас одному ERP'у вместо старого оракля подсунули постргресса ... молотит только пыль летит. А великие и ужасные 1C - не ослилили ...

Оракл и постгрес версионники, а 1С разрабатывалась под блокировочник, отсюда и проблемы.

Два варианта, которые собственно и озвучены: либо переисать конфигурации на другой тип блокировок, либо сделать из версионника блокировочник и получить деградацию скорости.


"Опыт обслуживания базы 1С в PostgreSQL"
Отправлено Дым , 09-Дек-10 06:50 
Постгрес - версионник.
М$скул - блокировочник.
В МС блокировки построчные.
Реализация 1С на постгресе использует блокировки таблиц, но можно их сделать (в терминах 1С) управляемыми, сиречь - тоже построчными.
Правда, простое переключение блокировок в конфигурации 1С из "автоматических" в "управляемые" ожидаемого результата не даст: требуется ещё и вмешательство в код, что автоматом исключает апдейт до свежих версий платформы.
Поправьте меня, если я неправильно ошибаюсь.

"Опыт обслуживания базы 1С в PostgreSQL"
Отправлено sashacd , 13-Авг-10 17:54 
В чем сакральный смысл reindex после vacuum full?
А в чем сакральный смысл не делать reindex после vacuum full? Только опыт использования в каждом случае может ответить на этот вопрос.

"Опыт обслуживания базы 1С в PostgreSQL"
Отправлено трололо , 13-Авг-10 17:58 
>В чем сакральный смысл reindex после vacuum full?
>А в чем сакральный смысл не делать reindex после vacuum full? Только
>опыт использования в каждом случае может ответить на этот вопрос.

ответ на этот вопрос может дать вдумчивое чтение документации. дураки учатся на "собственном опыте", читай - ошибках. умные люди - учатся на ошибках чужих.


"Опыт обслуживания базы 1С в PostgreSQL"
Отправлено Аноним , 05-Сен-10 06:59 
"REINDEX DATABASE baza1c_81 FORCE;
VACUUM FULL VERBOSE ANALYZE;

(Хотя с FULL в первой команде лучше для себя определиться еще раз)"

Автор  как истинный программист считает с 0 ? :)


"Опыт обслуживания базы 1С в PostgreSQL"
Отправлено sashacd , 08-Сен-10 18:58 
поправился -
"VACUUM FULL VERBOSE ANALYZE;
REINDEX DATABASE baza1c_81 FORCE;"


"Опыт обслуживания базы 1С в PostgreSQL"
Отправлено Дым , 09-Дек-10 06:19 
0,5,10,15,20,25,30,35,40,45,50,55 * * * * /var/lib/pgsql/backups/hasp.restore

меняем на

*/5 * * * * /var/lib/pgsql/backups/hasp.restore
==============
CUR_DATE=20$(date +%y).$(date +%m).$(date +%d)-$(date +%H)$(date +%M)$(date +%S):
if [ $FLAG -eq 2 ]; then
      echo "$CUR_DATE hasplm running" >> /var/log/hasp.restore.log
else
      hasplm &
      echo "$CUR_DATE RESTORE hasplm" >> /var/log/hasp.restore.log
fi

меняем на

[ $FLAG -eq 2 ] && echo "$(date +%Y.%m.%d-%H:%M:%S) hasplm running" >> /var/log/hasp.restore.log || {
      hasplm &
      echo "$(date +%Y.%m.%d-%H:%M:%S) RESTORE hasplm" >> /var/log/hasp.restore.log
}