se usa modo consola. Ej tienes el programa en c:\ y el programa que quieres comprimir en c:\ entonces abres el ms-dos pones cd.. hasta llegar a la carpeta c:\ y pones:
Citar
upx -9 Nombredemiprograma.exe
el nombre no tiene que tener espacio si no, no te lo va a saber comprimir.
NOTA: no intentes comprimir algun exe que lleve a su vez archivos adentro si no el programa que intentas comprimir se quedará un poco mal.