¿a que esta conectado? ¿A otro router perteneciente a mi ISP? ¿y mi ISP de que manera se conecta con los demas ISP del mundo?
Claro, tu router de casa se conecta a otro router perteneciente al ISP pasando por otros dispositivos de interconexión.
Este a su vez se conecta con otros, y así sucesivamente. Esa es la magia de Internet, una red grande.
En la imagen de abajo hay unos routers "profesionales" utilizados por algunas ISP, para que te hagas una idea.
Si yo quiero conectarme a una de estas PCs desde otra en un lugar distintos ¿Que IP debo usar?. Y la publica, osea la que tiene el router, creo que no deberia funcionar, porque el router no sabria hacia donde encaminar la conexión entrante.
Para conectarte desde fuera usas tu IP
publica, para que funciones tiene que redireccionar el trafico entrante desde el router hacia el PC al que quieres que le llegue esa información.
Eso se hace por medio del mecanismo
NAT, que suele ser asociado con la expresión "abrir los puertos".