Sorry, hab da einen Denkfehler. Die folgende Formel ist eigentlich das, was ich posten wollte:

dX = abs(HeldX - GegnerX)
dY = abs(HeldY - GegnerY)

Gegner ist getroffen, wenn:

dX * dX + dY * dY <= MaxDistanz * MaxDistanz