Я бы вот что посоветовал: ассоциируешь формат файла со своей прогой, но адрес к ней прописываешь с ключем, например, MyProg.exe /open. А в самой программе делаешь при запуске проверку с каким её ключем запустили, соответственно, если с "опен", то делаешь с файлом все что надо

...
Я не знаю конкретных вещей, например, как узнать адрес открываемого файла и т.д. Но идея мне кажется должна быть такая
P.S. Прикрепи прогу посмотреть

И пусть в моих поступках не было логики...