Folgender Code funktionniert:

PHP-Code:
<html>
 <head>
  <script language='JavaScript' type="text/javascript">
   function insert (bbcode) {
    var parm, inserttext;
    parm = "":
    inserttext = "";
    parm = window.prompt("Bitte den zu formatierenden Text eingeben!\n["+bbcode+"]xxx[/"+bbcode+"]", "");
    inserttext = "["+bbcode+"]"+parm+"[/"+bbcode+"]";
    document.formular.message.value = document.formular.message.value + ' ' + inserttext;;
   }
  </script>
 </head>
 <body>
  <form action='content_neu_allg_3.php' method='POST' name='formular'>
   <b>Titel:</b><br>
   <input type="text" name="titel"><br>
   <br><br>
   <table border"0">
    <tr>
     <td align="right">
      <textarea name='message' style='height:160px; width:160px;'></textarea>
     </td>
     <td align="left" valign="top">
      <a href="javascript:insert('B')">
       <img src='images/bbcode_bold.gif' border='0'>
      </a>
     </td>
    </tr>
   </table>
  </form>
 </body>
</html> 
Das onClick hab ich raus weil zumindestens beim Firefox dann zweimal die Funktion aufgerufen wird. Beim Funktionsaufruf hast du die Annführungszeichen vergessen. Und die Werte inserttext und parm hab ich schon früher deklamiert und Leer-zugewiesen weil, zumindestens beim Firefox sonst bei keiner Eingabe "null" drinsteheht, kleiner Schönheitsfehler also.

edit: ach ja, bei window.prompt ist der Zeilenumbruch wie in sogut wie jeder Sprache \n nicht der HTML-Befehl <br>.