Ich glaub ich sehs: Die Shell interpretiert einige Sonderzeichen als andere oder zusätzliche Befehle. Probier mal, den Link mit Hochkommas ("Umschalt" + "#") einzuklammern:

mplayer -dumpstream 'rtmp://rtl-now.rtl.de/familienimbrennpunkt.php?film_id=18444&player=1&season=2&na=1' ~/Desktop/dump.mpeg