Bei mir läuft das auch ohne Kompatibilitätsmodus.
Aber ich meine mich zu erinnern, so einen Fehler auch mal unter Win2000 gehabt zu haben.
AFAIR lag es an der Wiederholfrequenz des Monitors.
Stell mal die Frequenz auf 60 Hz und versuch es dann mal.

Was für ne Grafikkarte das du denn?