Busca en google, los distintos tipos de vulnerabilidades, como ser Buffer Overflow, etc.
Igual tenes la
FAQ de Vulnerabilidades para empezar

P/D: Sobre Bof, hace poco me lei un tutorial que hizo rojodos qe estaba aca, lo recomiendo

...
Yo tambien me re enganche con bugs y exploits

, pero a nivel aplicacion y web (los de web, ya tenia previo conocimento xD)