Loswerden kannst du ihn nicht mehr.
Du könntest aber in den Einstellungen die Dateiverknüpfungen entfernen und auf den Media Player 6.4 (IMO der beste Media Player von MS) umsteigen.
Der befindet sich unter CProgramme\Windows Media Player\mplayer2.exe

Du kannst auch den MediaPlayerClassic nehmen. Der ist OpenSource und sieht fast genauso aus, wie der Media Player 6.4. Bietet aber mehr Optionen.