generell solltest du mittels rundll.exe einzelne funktionen aus dlls aufrufen koennen. Rueckgabewerte zu verarbeiten koennte sich allerdings als schwierig erweisen ...
Was genau du mit dem fileprotocolhandler meinst, weiss ich nicht genau.
Was die Auflistung der Funktionen in den (windows) Standard DLLs angeht, da ist http://msdn.microsoft.com/library/default.asp sicherlich die beste Anlaufstelle.