С Новым Годом!
А по поводу сабжа думаю так.
Для начала - на docs.sun.com ищешь документ x86HW.pdf (Solaris 8 Intel Platform Edition Hardware Compatibility List).
Ежели твоей видюхи там нету - плохи дела :-((, но не смертельно.
Вариантов два:
а) По адресу: http://soldc.sun.com/developer/support/driver/tools/video/video-index.html лежит "The SolarisTM XFree86TM Video Drivers and Porting Kit enables you to use XFree86 video drivers with the X Window System server for Solaris 8 Intel Platform Edition". Но, что бы не наступить на те-же грабли, сначала обязательно прочитай Hardware Compatibility List (ссылка в первом же абзаце!). Может оказаться и там нету твоей видюхи.
б) Скачать и установить XFree86 for Solaris. Уж в нем точно есть драйвер для asus V3800M64.
Удачи!