Kommt echt drauf an. Wenn man z.B. ein Programm ausführt, was viele erst mal zu ladende Daten hat, die aber überall verstreut liegen, dann dauert das eben wegen dem mechanischen Lesekopf.

Es gibt da so ein paar nette Anwendungen, die es einem recht gut "zeigen" können. Hat man z.B. eine große Datei, z.B. ein Video oder ein Archiv. Berechnet man hierrüber nun den CRC oder ähnliches, dann sollte man mal lauschen wie die Festplatte tönt und wie sich der Fortschritt-Balken bewegt. Stocken und "lautes" röhren deuten dann z.B. darauf hin, dass die Datei zerstückelt wo rumliegt, und der Lesekopf ständig weite Wege zurücklegen muss. (Oder alternativ, dass gerade irgendwas anderes parallel Daten von der HDD haben möchte.. klar)

Im Endeffekt muss das jeder selbst wissen. Wie oft werden "nicht zusammenhängende" Daten gebraucht? Wie fragmentiert ist das Laufwerk? Auch wenn eine defragmentierung viel Zeit benötigt, wenn man ständig Daten lädt, die sehr verstreut liegen, ist die "verringerte Lebensdauer" der Defragmentierung irgendwann besser. Zeitlich merkt man was, wenn man weiß, worauf man achten muss. Es reduziert garantiert die Zeit, die man z.B. benötigt um Ordner mit sehr vielen Dateien zu öffnen, wenn Windows generell versucht die Daten erst mal alle zu erfassen. Geht schneller, wenn es alles hintereinander auf der HDD liegt. Viel schneller. (Mehrere Sekunden vs. mehr oder weniger "sofort") Nur haben die meisten solche Ordner nicht.
Lange "Ladezeiten" können aber auch aus vielen anderen Gründen erstehen. Wenn es sehr sehr lang wird, dann ist die Chance groß, dass es nicht durch eine Defragmentierung alleine zu beheben ist.

tl;dr: Es gibt kein generelles "ja" oder "nein". Wenn du hier und da immer mal ein paar Sekunden auf Ordner wartest, oder glaubst die Festplatte tönt doch sehr laut beim öffnen bestimmtern Dateien/Programmen, dann könnte eine Defragmentierung helfen. Wenn eigentlich alles toll verläuft, ist es aber echt nicht nötig. (Und wenn z.B. Win 7 benutzt wird, geht das ganze meist eh relativ automisch, wie es schon erwähnt wurde)