Respondiendo a tu pregunta, un exploit es un código malicioso o malware, que permite a un atacante o pen-tester tomar ventaja de la vulnerabilidad del sistema y comprometer su seguridad, cada vulnerabilidad tiene su exploit correspondiente
Payload esto es el código o malware corriendo en el sistema después de la infección explotación
Lo que puedes hacer con un exploit, esto depende del exploit que se utilice, diria que casi de todo, lee sobre los exploits de metasploit para que tengas una idea clara
Puedes empezar usando metasploit, luego puedes aprender a programar para crear tus propios exploits
Estos libros te pueden ser de mucha ayuda
este es un manual de metasploit en español
https://mega.co.nz/#!Bpo3Wb7Q!bN6dDWfFkPyput9mzDKVIItJNfTJlnOS3Gz4aulDPq8Este libro más bien es un tutorial de metaspliot en ingles, está más claro que el anterior si no tienes conocimientos de ingles lo puedes traducir a español con algún traductor gratuito en línea como systran online translator
https://mega.co.nz/#!ItAQgZIJ!ouzNJwsmCebfn8Qm0fEVPxuc8WlIz_rS2f47Z7oM6_E