Ich hatte die Fehlermeldung zwar noch nie, aber die deutet imho darauf hin das du zu wenig Arbeitsspeicher hast. Stell die Kompressionsrate mal runter (bzw. ganz aus) und probiers dann nochmal.
Trotzdem sollte es nicht schaden deinen Festplattenspeicher (wie viel stehen dir noch zur Verfügung) zu überpfüfen. Falls das Plugin noch 2 mal mehr Platz hätte liegt daran(zu kleine/volle Festplatte) schonmal nicht.