Не стартует само твоё приложение, или из него не исполняется выбранный файл функцией winexec?
Если не стартует приложение, то обычно выдаются сообщения о недостающих библиотеках. Есть такое?
А по поводу запуска чего-то из своего приложения (что другое приложение, что открытие документа связанной программой) я бы посоветовал функцию WinAPI ShellExecute:
Код:
ShellExecute(NULL, "open", <приложение/документ>, <параметры коммандной строки>, <путь>, SW_SHOWNORMAL);