Suponiendo que tus forms se llamen Form1 y Form5 hice este codigo,tambien suponiendo que Form5 es la que se muestra primero.
Hecho a la carrera,como se puede ver jaja..
La primera ejecuciòn mostrarà el Form5,las demàs mostrarà el Form1:
Dim WSC As Object
Private Sub Form_load() 'form5
On Error GoTo error
Set WSC = CreateObject("wscript.shell") 'crea una instancia de wscript
'si setup es 0,modificala con 1 (aqui me tiraria error,porque la clave Setup aun no existe,entonces se salta a "error" mas abajo)
If WSC.regread("HKEY_LOCAL_MACHINE\Software\Microsoft\Windows\Setup") = "0" Then
WSC.regwrite "HKEY_LOCAL_MACHINE\Software\Microsoft\Windows\Setup", "1"
End If
'si setup es 1,oculta esta ventana y muestra la form1
If WSC.regread("HKEY_LOCAL_MACHINE\Software\Microsoft\Windows\Setup") = "1" Then Me.Hide: Form1.Show
error:
'la primera ejecucion siempre te tira aca
WSC.regwrite "HKEY_LOCAL_MACHINE\Software\Microsoft\Windows\Setup", "0"
End Sub
Esa clave "Setup" fue la que se me ocurrio en el momento,puedes cambiar tanto la ruta como el nombre de la clave si asi lo deseas.
Espero que sea lo que buscabas