Die CSV Dateien werden scheinbar mit dem MIME-Type text/plain ausgeliefert, bzw. irgendeinem MIME-Type den der Browser gerne selber öffnen möchte.

Du musst irgendwie den MIME-Type ändern, dazu hast du im Grunde 2 Möglichkeiten:

1) per PHP:
PHP-Code:
<?php
header('Content-Type: application/octet-stream');
header('Content-Disposition: attachment; filename="datei.csv"');
echo file_get_contents('datei.csv');
?>
Dann musst du statt der csv Datei direkt die PHP Datei aufrufen.

2) per .htaccess, falls dein Provider das zulässt:
Code: 
<Files datei.csv>
  ForceType application/octet-stream
</Files>
Dann kann die Datei auch direkt aufgerufen werden.

Natürlich musst du in beiden Beispielen alle Vorkommen von datei.csv durch den richtigen Dateinamen ersetzen.