>в общем так... нужно написать программку на си. Что она будет делать?
>приходит письмо на адрес, например frank_herbert@mail.ru, она с загаловка выделять ip
>почтового сервера, с которого было послано письмо и возвращает назад, туда,
>откуда было прислано письмо.

В загловке IP содержится только в полях Received, которые могут резаться и которые не обязательно содержат IP исходного сервера. Скорее имеется ввиду выдекление адреса отправителя и посылка ему обратно его же письма.

Мгу помочь только исходником SMTP Proxy. Надо будет подпилить логику и обвязку прокси.