Есть один exe. Из ресурсов подгружается другой exe. Используются функции интерфейса этого exe номер два. Одной из таких функций интерфейса посылается сообщение WM_COMMAND, после чего exe номер один благополучно взвисает. В чем тут может быть проблема?
Если посылается SendMessage, будет висеть пока твой WM_COMMAND не будет обработан получателем. Ищи, где обработчик получателя жуёт это сообщение. Можно использовать PostMessage, тогда программа не будет ждать, пока обработают сообщение и продолжит свою работу.
Хотя, если честно, я смущен самой концепцией. Получается два цикла выборки сообщений в одном адресном пространстве. Я даже и не знаю.. Никогда ГУИ под винду не писал, хе-хе