Lo que tu quieres hacer ya está hecho hay varios front end o GUI para el uso del upx.

Ahora que si lo quieres hacer tú, pues con vbasic usando shell.

El upx es una utilidad que se maneja con consola, prueba a escribir en una consola y con el upx

upx -h

te saltaran las opciones, entonces ya ves como lo trabajas en vbasic.

busca en google, ahora que si lo quieres ya hecho

http://fileforum.betanews.com/detail/UPX_GUI/1111660153/1

y como este hay al menos una docena.