Klingt für mich nach einem Dateisystemfiltertreiber. Der bekommt dann zu erst die benachrichtigung, dass die Datei geöffnet werden soll und reicht dann die Benachrichtigung weiter. Da es sich um einen Treiber handelt, wirst du wohl auf eine Entwicklungsumgebung von Microsoft zurückgreifen müsen und das
DDK.