Lo más seguro es que tengas el puerto de salida bloqueado , o el usuario con el que tienes permiso para correr cmd no tenga los permisos necesarios , intenta redireccionando la conexión por algún otro puerto abierto disponible, en caso de que fuera Linux sería muy sencillo corriendo una instancia de ngrok y hacer la conexión por ese medio
Por lo que tengo entendido la mayoría de los dvr se pueden atacar con bruteforce atraves de telnet ya que no tiene validación de máximos intentos como por el login web