Creo que lo que tu quieres es un ensamblador, que permite crear ejecutables a partir de un codigo en lenguaje ensamblador.

Yo personalmente uso fasm y de momento me va bastante bien,tambien tiene fama de ser bastante rapido porque esta programado en asm, el lenguaje ensamblador es el mismo uses el programa que uses, lo unico que difieren ligeramente las sintaxis segun cual uses, pero tranquilo porque fasm esta perfectamente documentado en su web.
Te recomiendo que leas el manual de fasm para evitar futuros problemas de sintaxis junto a manuales del lenguaje ensamblador en general (en este mismo subforo tienes buenos tutoriales para comenzar)

Si quieres programar shellcodes tambien podrias hechar un vistazo a la revista HackxCrack nº 30, que se basa en linux, pero explica las bases para programar cosas de estas y luego podrias intentar hacer una para windows (publicando el codigo que estaria muy bien). Puedes encontrar estas revistas en este foro.

Saludos, espero q te sirva.

a mi me gusta mas fasm, y nunca he usado masm32 pero si a EI le gusta debe ser bueno tambien 

+1

GRacias a todos pos sus consejos 
al final opte por okupar masm y despues de 24 horas de labor de parto XD
logre hacer mi shellcode de prueva xP
aun faltan muchas cositas por pulirle 
pero de antemano gracias 
leugo que termine el proyecto lo posteo para que se diviertan y me lo critiken sin piedad