Hola.
Ciertamente el server se beneficiaría de ser escrito en ASM, el problema es si realmente vale la pena. (aprox 10+ veces mas trabajo). C++ es un lenguaje bastante potente y, en mi opinión, tan potente como ASM para estos fines.
Ten en cuenta las caracteristicas que debe tener un buen server
*no tener dependencias (si necesitas cierta version de VC++ o libgc para correr el server vas por mal camino)
*ser liviano, tanto en el tamaño como en el consumo de memoria.
*debe ser indetectable.
el cliente lo puedes escribir en el lenguaje que te parezca mas conveniente,
Aqui un buen ejemplo de un troyano escrito en C++ y VB6:
http://foro.elhacker.net/analisis_y_diseno_de_malware/querias_tutos_de_programacion_de_malware_pues_toma-t196251.0.html Salu2