Der VX-Ace benutzt ganz einfaches Ruby. Nimm dir irgendeine X-beliebige IDE, welche dir erlaubt Ruby zu schreiben und zu testen. Vielleicht findet sich sogar eine Möglichkeit RGSS3 als Library mit ein zu binden, ich habe es aber noch nie probiert und kann dir daher nicht mehr dazu sagen.
Du kannst die Ruby-Scripte, welche du schreibst, sogar extern in eine Datei ablegen und dann diese von deinem Spiel laden lassen.