Шелл раскрывает шаблон как/usr/home/vasya/p2p/linux /usr/home/vasya/p2p/films /usr/home/vasya/p2p/porno
и подставляет всё это безобразие в коммандную строку, получается:
--exclude=/usr/home/vasya/p2p/linux /usr/home/vasya/p2p/films /usr/home/vasya/p2p/porno
то есть ты исключаешь только первый файл из папки и передаёшь остальные как дополнительные аргументы. Чтобы передать шаблон tar'у , используй кавычки, а чтобы он исключил не только все файлы в папке, но и её саму, убери * :
--exclude='/usr/home/vasya/p2p'