Ah, ok... ich würde sagen, die Aufgabe ist missverständlich (falsch) formuliert.

Also, was Du (vermutlich) tun sollst ist folgendes:
Du setzt erst k=1 ein, und erhälst dann die Funktion:
f'(x,1) = (x^2-1) / (x (x^2+1))
Hier setzt Du nun sqrt(k) (also die Wurzel von k - wie kann man hier LaTex-Code einfügen? xD) ein - dieses k ist ein *anderes* k - also nennen wir das erstmal j (zumindest habe ich es so verstanden, weil die Gleichung sonst einfach falsch wäre - und ich denke, hier hat das Buch vermutlich einen Fehler gemacht, indem man die beiden k nicht getrennt hat - solche Indexfehler kommen öfter vor).
Dann erhälst Du:
f'(sqrt(j),1) = (j-1) / (sqrt(j) (j+1))

Wiederholst Du den Prozess für k=j, statt k=1 und setzt wieder x=sqrt(j), so ergibt dies:
f'(sqrt(j),j) = - (j-1) / (sqrt(j) (j+1))

Wie man leicht sieht, ist das gerade das Negative der obigen Gleichung, und damit ist a) gelöst.

Für b) kannst Du jetzt verwenden, dass die Tangenten jeweils ein umgedrehtes Vorzeichen haben, dass heißt die eine Tangente ist fallend, die andere steigend - und das bildet ein Dreieck mit der x-Achse.