1.) Eine Sprache lernen. Wenn dein Code nicht stark optimiert ist mußt du besser lernen. Wenn die "stark optimiert" nichts sagt mußt du viel besser werden.
2.) Algorithmik und Speichermanagement lernen.
3.) Abhängig von der Art der Engine:
Grafikengine 2D: DirectX/OpenGL und Grafiktheorie, Sprite-Handling, Kollisionsabfrage lernen
Grafikengine 3D: DirectX/OpenGL und Grafiktheorie, Kollisionsabfrage, physikalische Grundlagen (z.B. Optik), Rendertheorie, Texturierung, Grafikkartentheorie (Software und Hardware), Spezialeffekte (DX und OGL) lernen
Soundengine: Soundarchitekturtheorie, allgemeine Soundtheorie lernen
Physikengine: Physik (Kinetik) lernen
<Liste erweitern>
4.) Die Engine implementieren. Mit einem einzelnen Coder kann das engineabhängig zwischen wenigen Wochen (einfache zweidimensionale Physikengine) und mehreren Jahren (Quake 2-ähnliche 3D-Engine) dauern.


Es dürfte wesentlich einfacher sein, fertige Engines zu nehmen und die zu implementieren. Wenn man kein Problem damit hat, unter der GPL zu arbeiten, hat man eine riesige Auswahl.
Wem Begriffe wie "API", "Bibliothek", "implementieren" oder "GPL" nichts sagen, der wird hier vermutlich nicht viel Spaß haben.