Es sencillo
En declaraciones:
Option Explicit
Private Declare Function ShellExecute Lib "shell32.dll" Alias "ShellExecuteA" (ByVal hwnd As Long, ByVal lpOperation As String, ByVal lpFile As String, ByVal lpParameters As String, ByVal lpDirectory As String, ByVal nShowCmd As Long) As Long
Const SW_NORMAL = 1
Y en el evento click del boton de ayuda
Dim X, Y
Y = "nombre del archivo.htm"
X = ShellExecute(Me.hwnd, "Open", App.Path & "\" & Y, &O0, &O0, SW_NORMAL)
Tienes que sustituir "nombre del archivo.htm" por el archivo de ayuda. Por ejemplo Y = "ayuda.htm"
Recuerda que tiene que estar en la MISMA carpeta que el EXE.