Für sowas sind Protoypen immer nützlich:
Mit einem Prototyp kannst du schnell und einfach nachbauen, was du gerade versuchst. Dabei lässt du alles Andere wie Grafik, Sound, Story usw. aus und beschränkst dich wirklich nur auf das allernötigste, was dein Kampfsystem ausmacht.

Es gibt physische Prototypen und auch solche, die programmiert werden. In deinem Fall sind physische wohl besser, weil du sie viel schneller ändern kannst und gleichzeitig ein besseres Gefühl dafür bekommst, was gerade dein Problem ist, was am bestehenden System gut ist und Spaß macht und was noch verbessert werden kann.

Was ist jetzt so ein physischer Prototyp? Alles, mit dem du dein KS "in echt" irgendwie nachbauen kannst. Das fängt bei Papier und Stift an, geht über sämtliches Material, was du in Brettspielen finden und missbrauchen kannst (insbesondere Würfel) und hört bei Lego Bauklötzen und Figuren auf. Auch kommerzielle Spiele nutzen Lego extrem häufig, um ihre verschiedenen Systeme auf einem rudimentären Level auszuprobieren, schnell Änderungsideen einzubauen und dann deren Effekte herauszufinden.

Der Sinn eines Prototypen liegt darin, möglichst schnell kleine und ggf. auch größere Änderungen zu machen und herauszufinden, welche Konsequenzen das hat. Wenn dein KS auch rundenbasiert ist, kannst du z.B. die verschiedenen Skills / Items / sonstige Aktionen auf ausgeschnittene "Papierkarten" schreiben und z.B. die Schadensberechnung live nebenher in Excel machen, während du mit den Karten einen Kampf simulierst. Dann kannst du insbesondere schnell die Formel für die Schadensberechnung oder die Parameter der einzelnen Skills umstellen und siehst, wie sich der Schaden verändert.

Das kann dann auch beliebig komplex werden: Hat dein KS ein Taktiksystem, wo die Kämpfer auf unterschiedlichen Positionen stehen können? Nimm ein Schachbrett oder male dir auf Papier das Feld entsprechend auf.
Ist es ein Action-KS (also Echtzeit)? Das kann man z.B. mit Aktionspunkten annähern. D.h. z.B. einen Schritt Gehen kostet einen Punkt, einmal Zuzuschlagen kostet 2 Punkte o.Ä.

Das hört sich im ersten Moment kindisch an, ist aber wirklich sehr beliebt bei Game Designern. Ich habe sogar schon einen solchen Prototypen für Ego-Shooter gesehen .