naja, was gibt es bei VirtualDubMod nicht zu verstehen?
Man öffnet dort ein Video, stellt die Kompression ein, evtl. noch ein paar Filter hinzu (die man aber nicht benötigt, wenn man AVISynth benutzt)
speichern, warten, fertig.

Bei AVISynth braucht man nur Grundkenntnisse, wie man ein Video öffnet.
flv wird über die DirectShow Schnittstelle gesteuert. Also lautet das Script einfach nur
Code: 
DirectShowSource("Name des Videos.flv")
Dieses Script muss nur in den Ordner gespeichert werden, wo auch sich das Video befindet.
Man kann es auch sonstwo hinspeichern, nur muss man dann den kompletten Pfad des Videos angeben.

Wenn du aber schon mit der Einstellung des Encoders schwierigkeiten hast, würde ich dir überhaupt generell empfehlen sich ein wenig mit der Materie zu beschäftigen. Videos encoden ist weit aus komplexer als nur kleine Bildchen zu speichern.