Saludos.
Para el tema Buffer Overflow y de crear shellcodes especificos (como abrir un cmd.exe) en windows, hay un manual en este foro escrito por Rojodos de lectura obligatoria

...pero no encuentro el post XDD
Como lo tenia por mi disco guardado te lo subo a rapidshare:
http://rapidshare.com/files/344890930/Exploits_y_Stack_Overflows_en_Windows-1.txt.html
Además subo un articulo de NetSearch Ezine que tampoco tiene desperdicio:
http://rapidshare.com/files/344891168/ns7-0x03.txt.htmlSi quieres shellcodes mas complejas te recomiendo los shellcodes proporcionados por metaspoit en su pagina de prueba
www.metasploit.com:55555/En esta pagina, en la sección de PAYLOADS, selecciona el sistema operativo en Filter Modules (os::win32) y selecciona uno de los que te proponen (Para hacer pruebas te recomiendo "Windows Execute Command" con el que puedes elegir lo que quieres ejecutar) ademas de muchos mas...
EDITO para incluir mas tutoriales.
Bueno, estos tutoriales te doy la pagina por que tarda mucho en subirlo a rapidshare

Estos manuales me ayudaron mucho a empezar, explica muy detalladamente todo el proceso para crear un exploit, con imagenes y, al final del documento hay un video muy explicativo. Te los recomiendo para empezar:
http://www.phoenixbit.com/site/tutorials.asp?view=U2VjdXJpdHkgKEhhY2tpbmcpL2J1ZmZlciBvdmVyZmxvdyBwYXJ0MQ <-- 1a parte
http://www.phoenixbit.com/site/tutorials.asp?view=U2VjdXJpdHkgKEhhY2tpbmcpL2J1ZmZlciBvdmVyZmxvdyBwYXJ0Mg <-- 2a parte
PD: Estos 2 ultimos manuales estan en ingles, pero sencillo de entender

Bueno, espero que te sirva y si tienes cualquier duda comenta ^^
Yo estuve igual hace muy poquito:
http://foro.elhacker.net/bugs_y_exploits/buffer_overflow_ayuda-t282570.0.html 
Un saludo.