Hola chicos primero muchas gracias por las aportaciones sobre rsa me han ayudado mucho. He tenido problemas con la precisión y errores de desbordamiento cuando trabajaba con exponentes muy grandes. Por si acaso alguien ha tenido el mismo problema, lo he resuelto de la siguiente manera:
Por ejemplo
18^23 mod 55
es equivalente a: (18^5*18^5*18^5*18^5*18^3) mod 55
Haciéndolo así no me da el error de desbordamiento y la precisión es buena.
Por aportar algo aunque debe ser una chorrada.
Un saludo.
 
ejemplo para sql server
El resultado correcto es 2
Select (power(18.0,23.0)) % 55 en este caso me da 5
Select power(18.0,5.0)*power(18.0,5.0)*power(18.0,5.0)*power(18.0,5.0)*power(18.0,3.0))% 55 este me da 2 que es correcto