No sé, yo sigo sin ver ninguna relación con el AES, supongo que no te he entendido bien. Respecto a Winbugs, que yo sepa sí implementa todos los FIPS, de hecho existen opciones para configurar ciertas características (como el cifrado en WiFi) para que funcionen solo bajo FIPS.

Pfff, no sé yo creo recordar en textos de 2007 que los FLOPS en un ordenador personal raramente alcanzaban el GigaFLOP, sin embargo mucho progreso ha habido desde entonces y me suena que ahora lo normal está en los 3 GFLOP.Todo esto sin poder darte fuentes.
Basta una búsqueda rápida para encontrar que los FLOPS se calculan mediante esta sencilla operación:
Número de núcleos * Frecuencia por núcleo * Número de FLOPs por ciclo
Puede parecer que lo último no tenga sentido, pero fíjate, no es FLOPS, es FLOPs, no es por segundo, es por ciclo, el problema es que este último dato no resulta fácil de conseguir.
No he tenido tiempo de investigar mucho, aquí tienes las fuentes:
http://scicomp.stackexchange.com/questions/11306/how-to-determine-the-amount-of-flops-my-computer-is-capable-of
http://stackoverflow.com/questions/15655835/flops-per-cycle-for-sandy-bridge-and-haswell-sse2-avx-avx2

Para calcular cuántos FLOPS se necesita supongo que debe ser fácil. Tú piensa cuántas operaciones tienes que hacer para factorizar dicho número siguiendo el proceso que seguiría un ordenador, supongo, no sé.

EDITO:
En la venerada wikipedia indica que los equipos actuales normalmente tienen una capacidad de 4 FLOPS por ciclo. Esto son 10 GFLOPS.