mmm, lo basico seria que empieces con programas como nmap, acuntex, nessus, esos son bueno para buscar puertos abiertos y te diran si hay vulnerabilidades

para encontrar vulnerabilidades y explotarlos o evadirlos, no tendras de otra mas que estudiar programacion, lo basico es C y asm, pero bueno hay mas lenguajes para aprender, ya que no entenderas muchas cosas si no sabes como funcionan, y si te das cuenta muchas cosas son codigos de programacion

instala una maquina virtual y haz pruebas, ya sea con exploits, troyanos, metasploit, etc, no te desesperes, porque hay muchas cosas que a veces no funcionan, pero lo mas importante es que te cuestiones todo, y una cosa te llevara a otra y cuando menos te lo esperes ya sabras lo que necesitas para estudiar

ahora algo basico en redes son los sockets, TCP/IP, UDP, conexiones directas y conexiones remotas

suerte, salu2