Лучше качни с сайта Nvidia их дрова под Linux. Вот например от сюда
http://www.nvidia.com/object/linux_d..._1.0-7174.html. И дальше действуй в соответствии с README, который входит в этот пакет.
Если не поможет, то перенастрой X. Насколько я помню это делается програмкой xorgconf(x86conf) или xorgconfig(x86config). И там постарайся поставить поменее частоты вертикальой синхронизации.
У тебя, кста, монитор ругается если ему суют режим экрана который он не поддерживает? У меня например начинает табличка плавать по экрану, с надписью "Error blah,blah". Если монитор ругается значит точно дело не в драйвере, а в завышенных частотах вертикальной синхронизации.