Naja, resourcenfressen tut dies eh.
Fraps frisst sogar noch recht wenige resourcen.
Überleg doch mal. Ein Tool soll in Echtzeit 24 bis 30 FPS vom Desktop speichern und diese dann noch zusätzlich komprimieren und zur Gleichen Zeit spielst du dann ein Spiel.
Im Grunde braucht man hierbei einen Dual CPU oder wenigstens ein Dual Core Rechner, damit dies flüssig von statten geht.
CPU 1 ist dann fürs Spiel zuständig und CPU2 fürs Capturen.
Encoden ist eh eine extrem CPU lastige Angelegenheit.

Oder man holt sich ne TV Karte mit VGA Eingang und lässt Rechner 1 auf dem Monitor von Rechner 2 anzeigen und nimmt von dort auf.