Спасибо за ответ.
Сейчас делал перекомпиляцию, и ставил опции безопасности (я на старом серваке такие ставил):
# Настройки безопасности
# отбрасываем SYNFIN-пакеты
options TCP_DROP_SYNFIN
# ограничиваем количество ICMP-ответов, что помогает при защите от DoS атак
# options ICMP_BANDLIM => net.inet.icmp.icmplim
# генерируем случайный идентификатор IP-пакетов
# options RANDOM_IP_ID => net.inet.ip.random_id
# блокируем RST-пакеты
# options TCP_RESTRICT_RST => не нашел
ядро распознало только первую опцию т.е TCP_DROP_SYNFIN
вторую и третью можно поставить в sysctl (странно, почему из ядра то выкинули?)
а вот options TCP_RESTRICT_RST я не нашел соответствия, не подскажешь как его прописать..?