Есть драйвер виртуального Com порта. Есть virtualcom.inf к нему. Драйвер нормально устанавливается и работает через Настройка->Панель управления->Установка оборудования и т.д. После этого в Диспетчере устройств появляется новый Com порт. Как программно сделать то же самое?
Вообще я бы посоветовал почитать хотя бы KmdTut, но если попроще - возьми Platform SDK из любой среды разработки под Win32 на ЯВУ, найди раздел посвященный службам (Services), затем раздел Service Control Progams и в нём уже прочитай про управление службами - для вынь службы и драйвера - одно и то же в плане установки. Для координации вот тебе имена пары функций : CreateService, OpenService, DeleteService.