Hola, la gran pregunta es cual va a ser tu implementación? Estás seguro que querés utilizar sólo un cifrado simétrico? Cómo vas a intercambiar las claves?.

Bueno, la cosa es que utilizar Serpent, que es un algoritmo no muy extendido y poco utilizado, tiene sus pros y sus contras. Hay poco criptoanálisis de Serpent, lo que significa que puede haber una potencial vulnerabilidad en el cifrado que todavía no fue descubierta, pero puede ser descubierta mañana, dejando todos los archivos que cifraste con Serpent vulnerables. Por otro lado, al ser poco conocido, un usuario común es poco posible que lo pueda descifrar.

Por otro lado, el RINJDAEL-256 o mejor dicho, AES-256, tiene un criptoanálisis que rompe el cifrado con una complejidad de 2^99.5, sin embargo, como bien se ha hablado en el post de wikileaks, esto es un ataque que es mucho más rápido que el de fuerza bruta pero aún así infeasible. Y siguiendo la proyección derivada de la ley de Moore, este algoritmo es seguro por otros 76.5 años. Que va a ser cuando haya suficiente capacidad de cómputo para computar 2^99.5 en unos días.
Todo esto es completamente teórico, pero son las proyecciones que existen hoy en día.

Yo diría que si tu objetivo es cifrar archivos para que queden de esta manera por algunos años, utilices aes-256. Si estás muy paranóico, hacé un cifrado doble con dos claves completamente distintas. Tené cuidado que no estén relacionadas en lo más mínimo las claves.

Un abrazo
APOKLIPTICO