mit VirtualDub wirst du das auch nicht schaffen.
VirtualDub ist für Videonachbearbeitung und nicht fürs Aufnehmen.
Es besitzt zwar eine Capture Möglichkeit, aber diese nimmt nur vom TV In Anschluss einer Grafikkarte/ TV- Karte auf.

Dafür brauchst du z.B. Fraps.