Das war wohl nur ein kurzer Test und es ging ihm in erster Linie um den RAM-Fehler, der ja auch dadurch nicht besser wird, wenn man ein anderes Programm nimmt und ihn ignoriert.
Vielleicht hat dein Ram-Problem ja was mit Rechten unter vista zu tun, dass dir als user nicht so viel Ram zugeteilt werden, wie verfügbar. Du solltest jedenfalls mal im Taskmanager nachgucken, wie viel Arbeitsspeicher dort erkannt und als verfügbar aufgelistet wird und wie sich das ändert, sobald du die Aufnahme machst. Vielleicht sorgen ja irgendwelche ungünstigen Einstellungen des Audioprogramms dafür, dass du in astronimischen Werten wie 96 Khz bei 48 bit in Stereo aufnimmst, was dann enorme Mengen Speicher benötigt.