In der Preislage hast du zwei (bzw. 2,5) Möglichkeiten:
1. Nvidia GeForce 7600 GS (256MB)
2. ATI X1600/X1650 Pro (256MB)
Beides nicht die Super-Burner, aber ordentliche Leistung. Deine GF5700 hängen die allemal ab, schon allein weil der Shader-Support der 5xxx-Serie unter aller Sau ist.

RAM würde ich auf jeden Fall auf 1 GB bringen, sonst hast du da einen neuen Flaschenhals. Finde raus, was für ein Speichermodul du aktuell drin hast, und versuch ein gleichartiges zu bekommen. Im ungünstigen Fall arbeiten zwei Riegel von unterschiedlichen Herstellern nämlich nicht zusammen. Was du drin hast, müßtest du mit Everest rauskriegen können.

P.S. Alternate ist nicht unbedingt der günstigste Anbieter, aber man kann dort eine Menge Infos abgreifen.