Ich kenne den Outlook Web Kram nicht. aber wenn er nicht totaler Mist ist (und weniger features bietet, als jeder durchschnittliche andere konstelose Mailaccount...) sollst du folgendes machen:

1. Nimm irgendein Mailprogramm, das du auf deinen PC installierst. Outlook Express fand ich immer furchtbar, wie es mit dem richtigen ist, weiß ich nicht, im zweifelsfall traue ich Internetprogrammen von Microsoft aber nicht. Also lieber was anderes nehmen. Thunderbird, Claws mail oder sonstwas. (Kenne das Windowsangebot da zu wenig)
Da stellst du ein, dass du die Emails via Pop3 vom server holst. Die Daten dazu stehen irgendwo in der Hilfe des Webmailprogramms. (wird irgendwas a la pop3.deinserver.de oder so sein) und zusätzlich "nachrichten auf dem server belassen". (oder so ähnlich.)
In deinem Webmail stellst du ein, dass die Mails nach einer bestimmten Zeit automatisch gelöscht werden. Möglichst lange, aber ohne, dass es volläuft.
Jetzt hast du lokale Kopien deiner Emails. die kannst du irgendwie in dem lokal auf dem PC laufenden Programm exportieren. Und dann z.B. auf CD brennen.
Wenn du ganz auf nummer sicher gehen willst, legst du dir woanders einen weiteren Email-Acc an (Gmail bietet sich da an...) und lässt von dem aus *ebenfalls* die selben emails via Pop3 holen. So sind sie doppelt gespeichert. Und bis du gmail voll hast, dauert es vermutlich viele jahre.