Las únicas funciones que debería tener un RAT es conexión estable, cifrado por sesión y soporte a plugins.

for l in range(-1, 0):
    try:
        with open(var, "r") as handle:
            red = handle.read()
        l += 1
    except IOError:
        print("sdfghjkl")
    else:
        asdf()

No sé que uso le das a la variable l pero es confuso que modifiques el contador del bucle...

Completamente de acuerdo pero a no ser que uses un compilador de los 90 tu intento de optimizar puede no ser tan óptimo como el que haría el compilador...

Me gustan mucho este tipo de códigos Yo me hice un emulador para un set de instrucciones reducizo del MIPS cuando lo dí en la universidad

---

Los compiladores modernos ya hacen esa optimización de forma automática. (http://en.wikipedia.org/wiki/Branch_table)

Puedo tirar unas 10 tranquilamente y seguir jugando al FIFA (32gb RAM, i7 4770k...) Pero bueno, se puede hacer de forma secuencial... 3 primero, luego otras 3... etc Para aquellos con PC menos potente el peor sin duda es Bitdefender que requiere 1GB de RAM para funcionar

En VirusTotal de hecho si no al menos una detección no se envía Así que si te sientes optimista puedes arriesgar
Te recomiendo http://bytescanner.com/. Conozco a uno de los creados y confío en su palabra. No tanto en la de NoVirusThanks...

Aún así yo uso máquinas virtuales. Al principio un asco de preparar pero una vez listas con un poco de python puedes automatizar los análisis Desactivas el adaptador de red de la VM y lo activas sólo cuando quieras actualizar... Así te aseguras que no habrá leak

En cuanto a seguridad AES de 128bits y 8 rondas sería suficiente para estar tranquilo un par de años y teniendo en cuenta la implementación que estás haciendo dudo mucho que cree overhead.
Yo hago uso de AES 128 con CBC usando el API de W$ (Mi prioridad es minimizar el tamaño) y la latencia de la red supera con creces al tiempo de cifrar un paquete...

Sería genial poder ver el resultado final

Viendo la función ShiftRows()... No sería equivalente a hacer 3 rol? O es que quieres hacerlo todo con sse?

Si lo que quieres es rotar un solo byte a la izquierda sería más sencillo hacer:

shufps xmm0, xmm0, $93

Y en sintaxis AT&T:

shufps $0x93, %xmm0, %xmm0