Als erstes mußt du den Compiler installieren. Ich empfehle dir da MinGW, eine der beiden Windows-Umsetzungen der GCC.
MinGW selbst lädst du hier runter, dazu könntest du vielleicht noch MSYS nehmen, das einige Linux-Fetures beinhaltet (die könntest du brauchen, wenn du bestimmte Programme aus dem Netz kompilieren willst). Ist deine Entscheidung.

Jetzt kommt der Teil, bei dem ich keine genauen Informationen geben kann - ich benutze MinGW nicht.

Erst installierst du MSYS. Dann installierst du MinGW unter <MSYS-Ordner>/mingw.
Wenn du MSYS nicht willst, installierst du einfach MinGW.

Als nächstes solltest du vielleicht den Pfad ändern. Kann sein, daß MinGW das auch selbst erledigt.
[Anleitung gilt für Windows XP] Systemsteuerung -> System -> Erweitert -> Umgebungsvariablen -> Systemvariablen -> Path
An das Ende der Variable hängst du ein Semikolon ( und den Pfad zu MinGW (z.B. "EProgramme\mingw").


Jetzt solltest du den Compiler installiert haben und von überall darauf zugreifen können.

Als Test gibst du auf der Kommandozeile gcc -v ein. Entweder kommen jetzt ein paar Angeben zum Compiler oder der Pfad stimmt nicht. In dem Fall mußt du nachsehen, wo das Programm gcc.exe ist und den entsprechenden Pfad in der Path-Variable eintragen.