es un poco extraño tu problema, normalmente un "out of range" del monitor es por una resolución o frecuencia de refresco que no soporta tu monitor, pero aparece siempre al entrar en Windows, no debería salir ese error mientras el portátil arranca y aparece la BIOS.
Normalmente el error de "Out of range" se soluciona como comentas entrando en Windows en "modo a prueba de errores" con F8., cambiando la resolución (o refresco de pantalla) y reiniciando con normalidad.
Si no da señal por pantalla al encender, prueba de nuevo con fn + f10 o fn + f5 o la combinación de teclas que sea en tu portátil para dar la salida por el vga.