In der Zwischenzeit, wo du Vista installiert hast, hab ich Win XP und SP3 3-mal installiert.
Wenn du schon die Zeit hast, für sowas Vista zu installieren, dann hast du auch die Zeit das SP3 zu installieren.
Du musst doch Windows eh neuinstallieren. Wo ist also das Problem, wenn die Installation vom SP3 probleme bereitet, dann eben kurz Windows neuinstallieren.
Ausserdem denke ich nicht, dass du hier eine Antwort erhalten wirst, weil das doch sehr Programmspezifisch ist. Ich würde dir daher raten, beim Support von nLite nachzufragen. AFAIK haben sie für sowas ein Forum.

Das einzige Problem, was das SP3 bietet, ist, dass aus (angeblich) rechtlichen Gründen die Option, dass man die Adressleiste in der Taskleiste aktivieren kann, entfernt. Das musste ich heute erfahren.
Über das Ersetzen einer Datei vom SP2 ins SP3 wird das Problem aber auch wieder behoben.
Ansonsten bietet das SP3 nur Sicherheitsupdates und keinerlei Funktionserweiterungen.
Und dass es Probleme bei der Installation eines SPs geben soll, liesst man bei jedem SP.