А что такое открытие папки? Для чтения списка файлов? тогда ZwCreateFile/ZwOpenFile/IRP_MJ_CREATE (FILE_DIRECTORY_FILE)
Наверно там можно нотификатор повесить, вроде даже удалённо отслеживать можно(из другого процесса), функционал в shlwapi.dll смотреть в сурцах.