Подскажите почему TreeView не посылает родителю NM_RETURN когда нажимаешь интер в нем? В то время как NM_DBLCLK, NM_RCLICK и TVN_KEYDOWN приходит. А когда редактируется элемент, то и TVN_KEYDOWN не присылается.
Если дерево в диалоге, то Enter может перехватываться родительским окном. Тогда нужно просто обрабатывать WM_COMMAND (IDOK) в родительском окне и, если focus в дереве, то это был Enter. Если не в диалоге, то попробуйте не обрабатывать TVN_KEYDOWN.