las dll de vb son dll COM, y esas solo funcionan con programas de visual basic, no se ejecutan como las dll estandar hechas en c++ que tienen un dllmain, por eso no puedes. pero puedes usar el programa vb advanced, que permite que tus dll se creen como si fueran estandar.