Tienes que dejarar un buffer para almacenar el numero convertido a Base Binario y a Base Hexadecimal, posteriormente en el buffer contar las letras que te piden, las F para el Hexadecimal y los 1 para el binario. Recorres el Buffer de inicio a FIn y con cada coincidencia Incrementas un contador, posteriormente imprimes el contardor
Ejemplo para Hexadecimal.
char convertido[10];
int conincidencias = 0;
int i = 0;
while(convertido[i] != 0 ){
if(convertido[i] == 'f' || convertido[i] == 'F')
conincidencias++;
i++;
}