Geh in Eigene Dateien -> My Games und lösch den Oblivion-Ordner, daran liegt es meist.

Ansonsten geh auf Start - Ausführen - regedit

und suche unter HKEY_LOCALMACHINE nach einem Eintrag von Bethesda Softworks/Oblivion und lösche diesen. (Pass auf, dass du nichts anderes löschst)