Also ich hatte mal eine ATIx1800xt. Bei dieser traten auch solche Fehler auf und nach langem Suchen fand ich heraus das es an der Graka liegt und diese defekt ist.
Ich bin mir ziemlich sicher das es an der Graka liegt.
Stelle mal zum test den RAM und GPU Takt herunter.

Jo, meine alte x1800xt läuft im 2d-Modus ohne Probleme und ohne Fehler.
Sobald ich aber etwas Performanclastiges starte wars das und diese Fehler treten wieder auf.