Das beste was mir einfällt wär, den Normalvektor des Polygons zu berechnen und zu schaun ob der z-Wert negativ oder positiv ist. Eins von beiden bedeutet immer, dass es gegen den Uhrzeigersinn gerichtet ist und das andere, dass es im Uhrzeigersinn gerichtet ist. Mit Newells Method kann man sich scheinbar die Normale von concaven Polygonen berechnen: http://www.opengl.org/wiki/Calculating_a_Surface_Normal