Wenn du Windows drauf hast, dann versuch es lieber über Windows.
ASF ist ein dummes Streamformat von Microsoft und ich denke mal, dass es unter MacOS da schwierigkeiten gibt.
Wenn du Windows haben solltest, beschäftige dich ein wenig mit AVISynth.
Fürs Encoden nimmst du dort am Besten VirtualDub(Mod) und speicherst das Video einfach als unkomprimierte AVI ab.
MacOS sollte damit ja umgehen können.

Wenn man Videos weiterbearbeiten will, würde ich es nie mit einem Format encoden, welches das Video komprimiert. Auf diese Weise wird das Bild immer schlechter.
Lieber mit einem Lossless Codec oder unkomprimiert speichern.