Dann schreib ich auch mal meine Gedanken dazu.
Erstmal: Es wirkt interessant, was schon mal gut ist.
Ein paar der Kritikpunkte von Schnorro könnte man auch leicht umgehen, dazu gleich näheres. Was ich vorschlagen würde, wäre eine nicht ganz so freie Struktur wo quasi alles machbar ist, sondern ein Grundgerüst vorgeben, an das man sich bis zu einem gewissen Grad halten muss.
Ich stell mir das in etwa so vor: Es gibt eine gewisse Anzahl an Slots die nebeneinander liegen. Der erste ist z.B. die Basis (welche Art von Zauber), der zweite für die Ziele, der dritte bis fünfte für Statusveränderungen (Stärken, Schwächen, ...) und sechs und sieben für Elementareffekte (Feuer, Eis, Gift,...). Natürlich kann es auch anders angeordnet werden oder nur die ersten beiden (oder mehr) fest sein und von den Slots für Effekte und Element können beliebig viele vorhanden sein. Damit würde die Komplexität und große Erweiterbarkeit erhalten bleiben.
Das ist dann die waagerechte Reihe. Dazu können dann zu jedem Runenplatz wo etwas eingebaut ist, nach oben und unten Erweiterungen eingebaut werden (hier wäre eine Begrenzung für die Anzahl der Erweiterungen eine Überlegung wert, um die Zauber nicht zu stark zu machen).
Beispiel: In Slot 5 ist Feuer. Jetzt pack ich darüber einen Damage-Verdoppler, darüber eine vervierfachung des Schadens bei Gegnern mit dem Gegensätzlichen Element (in diesem Fall Eis) und unter dem Feuer kommt eine Rune, die für eine Runde den Schaden des Angriffelements halbiert (Feuer) und dann noch einen Begrenzer, der die Ziele auf das Gegenelement begrenzt (Es werden nur Gegner verletzt, die vom Element "Eis" sind).
Ich würde die Verifizierungen unbedingt allgemein halten. Also nicht "Schutz vor Feuerelement", sondern "Schutz vor angelegtem Element" oder "Schutz vor Benachbartem Element" (Falls du eine Art Elementkreis haben wirst). Grund dafür: Macht die Ermittlung der benötigten MP einfacher und "schränkt" die Vielfalt der Sprüche ein, damit man nicht einen erschafft, der zwar viel MP kostet aber einen Boss mit einem Schlag besiegt.

Bezüglich Begrenzung: Ich hab es oben schon angesprochen aber noch mal ausführlich: Vielfalt in der Zauberwahl sind super, aber wenn man einen Zauber beliebig stark macht, dann mache ich ihn als Spieler so stark, dass ich den Gegner mit einem Schlag besiegen kann. Warum sollte ich 2 mal Zaiber xy nehmen, wenn ich die stärke verdoppeln kann und damit zwar doppelt so viel MP verbrauche (wahrscheinlich eher weniger), dafür aber eine ganze Runde spare?
Bei Bössen würde ich mir einen Zauber zusammenbasteln, der alle meine MP mit einem Schlag verbraucht und den maximalen Schaden beim Gegner verursacht. Da die Kampfstrategie des Magiers ganz auf den Runen basiert, sollte er auch entsprechend viele MP haben, sonst wäre er ja kaum zu gebrauchen.
Nächster Punkt: Ich würde die Symbole von "Wörtern" zu "Runen" (oder etwas ähnlichem) umändern. Bei deinem System kann ich einen Zauber beliebig oft in der Angriffskraft verdoppeln. Bei einem Runensystem könnte ich aber die Anzahl der im Beutel vorhandenen verdoppler begrenzen. Das würde ich sogar als bereicherung sehen, da ich dann nicht einfach überall einen verdoppler hinpacken kann, sondern mir genau überlegen muss, wo ich meine drei vorhandenen hinpacke und wo ich dann doch lieber die "Plus 10%"-Runen hinstelle. Die sind zwar schwächer, von denen kann ich mir im Runenladen aber (praktisch) unendlich viele recht günstig einkaufen (da wäre dann wieder die Begrenzung der Felder nach oben/unten wichtig, sonst komm ich da mit 50 "+10%"er an und bin auch übermächtig).
Und was ich noch vorschlagen würde: Beschränke auch, welche Runen wohin können. Es ist klar, dass in den Slot für die Basis nur Basis-Runen können, aber man könnte etwa darüber 2 Runenplätze machen, die die Richtung des Angriffs definieren (Entfernung plus 2/ Kegel/ Geradlinig/ Umfeld/ Nachbarfelder links und rechts/ etc.). Und Unterhalb des Basisplatzes gibt es 3 Runen, die Spezialfähigkeiten hinzufügen (Gegner beklauen/ Gegner wirft doppeltes Geld ab, wenn mit diesem Zauber besiegt/ Zauber wird beschleunigt/verlangsamt/ etc.).
Ich würde die Runen also in Kategorien einteilen und die Felder vorher klar definieren, was wo rein kommt (Die Elementarrunen haben etwa die Farbe Orange, die beiden darüber sind Rot, das dritte ganz oben ist Gelb und die drei unten drunter sind grün). So könnte man auch die Vervielfältigung gekonnte eingrenzen: Die Angriffs-Verdoppler sind dann etwa in einer Farbe, wo es nur einen oder 2 Slots für gibt, dann muss man sich entscheiden, ob und welchen man von denen einsetzt oder ob man eine andere Fähigkeit bevorzugt, die der selben Kategorie (Farbe) angehört. Um es etwas spannender zu machen könnte es zusätzlich ein paar seltene Runen geben, die einer ihr fremden Kategorie angehören. Verdoppler sind etwa Rot und es gibt insgesamt 7 im Spiel. Man kann eine versteckte Rune finden, die Grün ist. Somit könnte man einem Zauber einen verdoppler mehr hinzufügen, was ihn potenziell deutlich stärker macht.

Und sowohl in Cornix Beispielen als auch in meinen gibt es negative Wörter/Runen. Die kann man auch leicht erklären (ich denke, so hat Cornix sich das gedacht): Negative Effekte verringern den MP verbrauch. Man heilt nicht mehr alle Verbündete, sondern nur die, die weniger als 30% ihrer HP haben, also kostet der Zauber nicht mehr 40MP, sondern "-10MP" oder "-25%MP", also 30MP. Ob es jetzt sinnvoller ist, die Werte in Prozenten zu nehmen (egal ob bei Angriffswerten, HP, MP oder was auch immer) oder in konkreten Zahlen gehört dann zum Balancing. Bei konkreten Zahlen ist das Problem, dass sie am Anfang oft mächtiger sind aber mit der Zeit ihren Nutzen praktisch verlieren. Und was man nicht machen sollte: Eine Rune, die den Verbrauch um 10MP erhöht und die Heilkraft verdoppelt. Sonst wird der Effekt irgendwann sehr mächtig und der Verbrauch immer noch so gering, wie zu Beginn des Spiels, wo 10MP noch viel waren ^^

Mit meinen Ideen schränkst du dein sehr offenes System zwar etwas ein, aber durch die Offenheit wird es sehr schwer zu kontrollieren sein und ein vernünftiges balancing wird fast unmöglich. Ich würde auch "falsche" Zauber abschaffen. Also solche, wo man sich selber mit schadet, wenn man ihn ausspricht. Oder du musst einen guten Grund haben, warum Zauber XY nicht funktioniert. Ich kann mir ehrlich gesagt keinen (logischen) Grund vorstellen, warum irgendeine Kombination versagen sollte. Immerhin geht es hier um fiktive Zauberei. Und ganz ehrlich: Ich wäre ziemlich sauer auf den Ersteller, wenn ich einen Zauber ausprobiere und er aus nicht nachvollziehbaren Gründen meinen Zauberer einfach tötet.

Und um der Flut an unendlichen Möglichkeiten Herr zu werden (Schnorro schrieb ja, dass man einfach alle Kombinationen vorher fertig macht und sie dann abruft), hier mein Vorschlag: Der Magier hat einen Runenstein (oder irgendein Objekt). Nehmen wir mal an, er ist wie ein Würfel geformt. Jede Seite (also insgesamt 6) hat aussparungen um die Runen einzufügen (die verschiedenen Farben könnte man auch durch verschiedene Formen ersetzen: Runde, viereckige, dreieckige, ovale,... Runen). Folglich kann der Magier maximal 6 Zauber gleichzeitig mit sich führen. Um die Runen zu verändern muss er zu bestimmten "heiligen Orten" gehen (falls du unbedingt verhindern willst, dass die Spieler überall und jederzeit - also auch während eines Dungeons - seine Zauber verändern kann). Man könnte auch einen extra Effekt einbauen: Es gibt bestimmte (besondere?) Runen, die jederzeit herausgenommen und/oder eingesetzt und oder ersetzt und/oder mit Steinen des gleichen Effekts ausgetauscht werden. Beispiel: Ein Zauber der die Erde Beben lässt. Es gibt im Dungeon noch Monster, die einen Feuereffekt haben und welche, die dagegen Immun sind. Jetzt man ein Spezial-Eis Element und kann das bei Bedarf (vielleicht sogar während des Kampfes?) einfügen oder wieder entnehmen bzw. man entscheidet sich nach der Auswahl des Zaubers, ob der Eis-Effekt aktiviert wird oder nicht (die Rune wäre in dem Fall dauerhaft im Spruch enthalten, könne aber beim Aussprechen wahlweise in- oder exkludiert werden).

So, ich hoffe dir mit den Ideen geholfen zu haben