Dann mach mal folgendes:
Stell unter XviD wieder "Twopass - 1st Pass" ein.
Dann rechts daneben klickst du auf "more"

Nun aktivierst du "Full Quaility first Pass" und deaktivierst "Discard first pass".

und speicherst wieder die avi.
Nun wird zusätzlich zu der video.pass Datei noch ein Video encodet, anstatt nur eine dummy avi erstellt.
Schau dir mal an, wie groß das Video wird.
Das Video wird nämlich mit den besten Einstellungen encodet, das XviD bieten kann.

Es kann sein, dass das Video kleiner als deine angegebenen 568 MB (plus Tonspur) ist.
Wenn dies der Fall ist, zickt der 2nd Pass rum und verursacht Probleme.
Das kommt zwar recht selten vor, ist mir aber auch schon einige Male passiert.