Обсуждение статьи тематического каталога: Защита от DoS атак в Linux (security linux flood dos firewall ipchains iproute2)Ссылка на текст статьи: http://www.opennet.me/base/sec/linux_dos_guard.txt.html
При удачной настройке iptables nginx попросту блокирует атакующие адреса и они не нагружают системные ресурсы сервера, ну а для решения серьезных проблем нужная хорошая аппаратная защита. Могу порекомендовать ребят из Simplyway.net, отлично справляются как с ддос атаками так и толково шарят в администрировании.