1) Haz que el usuario del equipo sea del tipo "Usuario Limitado" o lo que es lo mismo, que no esté dentro del grupo Administradores.
2) Puedes crear un monitoreador de procesos para que finalice los handles de cualquier aplicación llamada: setup*.exe install*.exe, etc... (aunque esto no siempre te será efectivo).
3) Finaliza el servicio de Windows Installer para controlar las aplicaciones *.msi
4) Utiliza ACL's para controlar el acceso a las rutas típicas de las instalaciones "C:\Archivos de Programa", "C:\Program Files", etc
Aunque lo mejor es que dejes sin privilegios ni permisos al usuario actual del equipo y listos. A todo esto... porque posteas esto en el foro de VB6? Piensas que puedes controlar eso con un programa? Lo mejor es que uses las herramientas del propio Windows (permisos y ACL's).
Saludos!!