Ой ща толком не скажу, но за это дело отвечает ключик в реестре. Поищи http://www.whatis.ru тым это было.
Тут все зависит от цели если програмно то надо создававать записи в реестре в ветке HKEY_CLASSES_ROOT\ За меню папок отвечают разделы Directory\shell и Folder\shell за конкретное расширение отвечает сопоставленны й раздел например для BMP bmp\shell, OLLYDBG например для exe создает разделы exefile\shell\Open with OllyDbg и exefile\shell\Open with OllyDbg\command. Ключи в разделе *\shellex\ContextMenuHandlers также сопоставлены командам в впадающем меню правой кнопки. Функции для работ с реестром начинаются на Reg например RegCreateKeyEx создает новый подключ. Ну а если руками то самый простой способ через свойства папки вкладка типы файлов