Creo que te será más fácil atacar el sistema operativo
Lo que buscas se llama Honeypot, son sistemas específicamente preparados y vulnerables para estudiar el comportamiento de los ataques.
http://es.wikipedia.org/wiki/Honeypothttp://www.sans.org/security-resources/idfaq/honeypot3.phphttp://www.tracking-hackers.com/papers/honeypots.htmlProyecto Honeypot:
http://www.honeynet.org/http://drupal.org/project/honeypotSi aún no has instalado el S.O en VBox, cuando lo instales no ejecutes las actualizaciones de Windows.
Programas que puedas atacar y sean conocidos pueden ser Java, Adobe (casi todos sus productos) bueno en si, casi todo programa conocido puede ser explotado, hay varias páginas donde econtrar vulnerabilidades, en Bugtrack por ejemplo. Mira las vulnerabilidades disponibles y podrás ver que programas puedes explotar.
Saludos.