Auf den Festplatten sollte in aufgeklebter Form eine kleine Zeichnung sein, welche Jumperstellung was zur Folge hat. Hitachi oder IBM zB haben auch direkt über/unter den Jumpern die Zeichnung angebracht.

Mach am besten die Systemplatte (die, wo XP drauf is) als Primary Master und das CD/DVD-Laufwerk als Primary Slave. Die zweite Platte machst du dann Sekundär Master. Wenn du beide Platten an ein Kabel hängst, hast du extrem niedrige Tranferraten, solltest du mal was von der einen auf die andere Platte kopieren wollen (wenns denn größer als 100MB ist).

Wenn du noch immer nicht bescheid weißt, schreib mal welche Platten du hast.
Außerdem könnte wichtig sein, wie alt dein PC ist. Sollte er nämlich schon älter sein, wäre es möglich, dass Festplatten nur dann laufen, wenn sie mit dem UDMA66 Kabel oder besser angeschlossen werden (was UDMA66 ist, ist ja erstmal egal).