Me lo leido por encima, y esta muy bien explicado creo que se merece un chinchetazo es una librería muy útíl que seguro mucho gente puede necesitar o necesitará en un futuro.

Si me parece que es pa c++ ya que usa clases. Y los prerequisitos parece indicar eso:
http://www.ginac.de/CLN/cln_2.html#SEC3
Aunque he encontrado otra que si creo que trabaja en c y c++.
http://gmplib.org

Si me parace que la unica forma es utilizar una libreria extena como CLN.
Mira este enlace:
http://clan-destino42.blogspot.com.es/2011/01/numeros-grandes-en-c.html

Si te fijas en la documentacion te indica que  usando esta función:

cl_RA expt (const cl_RA& x, const cl_I& y)
cl_R expt (const cl_R& x, const cl_I& y)
cl_N expt (const cl_N& x, const cl_I& y)
Returns x^y.

puedes intentar obtener lo que quieres.
Puedes verlo aquí: http://www.ginac.de/CLN/cln_4.html#SEC22

Como que nunca se inicializan nunca a cero, bueno en algunos lenguajes si como java me parece u otros aunque es mejor prevenir que curar y asegurarte.

Mira acabo de ver este post y creo que te puede ayudar:
http://foro.elhacker.net/programacion_cc/ayuda_saber_si_se_repiten_caracteres_en_una_misma_cadena-t366079.0.html

Yo lo que haría seria contar las palabras del texto "feo" en este caso

t[f]=t[f] + 1;
t[e]=t[e] + 1;
t[o]=t[o] + 1;

antes tienes que inicializar el array t a 0;

t[a] =0;
t[b] =0,

....etc
y ya tendrías la condición ;
Si (t[f] >=2 ) break; o cualquier otro tratamiento que consideres oportuno, copiar el array en otro donde no aparezcan las palabras repetida....etc

#include <string.h>
#include <ctype.h>
#include <stdio.h>
 
int main(){
 char cadena[30];
 char letra[30];
 int count=0;
 strcpy(cadena,"hola mundo hola");
 strcpy(letra,"feo");
 int sizecdn=strlen(cadena);
 int sizecdn2=strlen(letra);
 
 
for(int k=0;k<sizecdn2;k++){
    for(int j=0; j<sizecdn; j++){
    if(cadena[j]==letra[k])count++;
    }
    printf("La letra %c aparece %d veces\n",letra[k], count);
    count=0;
}
 
 scanf("%d");
 return 0;
}

Aqui creo que lo tienes .

Hay va otrp  supercensillo de entender .Para que te hagas una idea.

#include <string.h>
#include <ctype.h>
#include <stdio.h>
 
int main(){
 char cadena[30];
 char letra[30];
 int count=0;
 strcpy(cadena,"hola mundo");
 strcpy(letra,"hola");
 for(int j=0; j<4; j++){
  if(cadena[j]==letra[j])count++;
}
 printf("La letra aparece %d veces", count);
 scanf("%d");
 return 0;
}
 
 

Te estas compilcando mucho la vida , mira es una combinacion con repeticion , primero plantea el problema y luego intenta resolverlo, creo que este algoritmo te servira.
Lo he hecho para que resuelva las combinaciones de letras que me pusiste en el ejemplo osea a,b,c.

#include <stdio.h>
#include <stdlib.h>
#include <string.h>
int main() {
 
	char caracteres[3] = {'a', 'b', 'c'};
 
    //	FILE *file;
    //file = fopen("d.txt", "w");
 
    for(int i=0;i<3;i++)
    {
      printf("%c\n", caracteres[i]);
         for(int j=0;j<3;j++)
         {
            printf("%c", caracteres[j]);
            printf("%c\n", caracteres[i]);    
         }
     }
    //fclose(file);
    scanf("%d");
    return 0;
}

Escribe que es lo que quieres hacer?¿ No lo entiendo.