Ако съм схванал правилно...искаш когато потребителя кликне върху файл с разширение каквото там си избрал, да се стартира твоята програмка и да отвори съответния файл?

Ако е така, и си с ОС Windows (2000, XP) може да стане по следния начин:
ВАРИАНТ 1:
Стъпваш с десен бутон на мишката върху файла са разширение "vau" и даваш OPEN. Тъй като ОС не знае с какво да асоциира този файл, ще ти отвори диалог, в който ще ти предложи да потърси в web пространството, или ти да избереш програма от списък ( Select a program from a list). Избери второто.
Отваря се нов прозорец, в който имаш изброени доста приложения, инсталирани на машината. Ако програмката ти не се е "регистрирала" в системата, няма да я намериш там. За това стъпваш на Browse бутона и след това нацъкваш или написваш пътя до твоето програмче. Избираш го, и не забравяй в предходния джам да маркираш "Always use the selected program to open this kind of the file". Така създаваш асициация между файлове с твоето разширение и конкретната програмка.

ВАРИАНТ 2:
Пускаш Windows Explorer
Tools->Folder Options->File Types
Натискш бутон NEW и въвеждаш разширението. То се добавя в списъка с разширения. Стъпваш на него и натискаш бутон CHANGE, след което ще ти се отвори същия диалог, както във ВАРИАНТ 1. Следваш описаното в него и крайния резултат е същия.

Аре със здраве!