x264 müsste eigentlich gehen, mehrere Spiele verwenden das. Öffne mal das Video in VLC und öffne die Medieninformationen. Einer der Tabs in dem Dialog enthält den Video- und Audiocodec. Mach mal ein Screenshot davon und poste es hier.