Cuando llames a llenarmatriz le pasas como parámetro matriz, esto se pasa por referencia, es decir, lo que tu función llenarmatriz modifique en matriz, la variable original se verá afectada, por lo tanto en tu variable matriz estará almacenada la información que generaste en llenarmatriz

Antes de lanzarte a programar debes aprender bien el lenguaje. Tienes la idea, tolower te permite convertir un caracter a minúscula, entonces lo que debes ir haciendo es recorrer la cadena e ir convirtiendo cada caracter a minúscula o mayúscula según sea el caso.

Me parece que el formato que le estás dando a tu archivo no es el correcto, prueba con esto:

void opcion1()
{
   FILE *p;
   p = fopen("accesobanco.txt", "w");
   fprintf(p, "%s, %s","useras34", "ae78\n");
   fprintf(p, "%s, %s","\nuseras32", "ui99\n");
   fprintf(p, "%s, %s","\nuseras45", "eo76\n");
   fprintf(p, "%s, %s","\nuserasg6", "ie44\n\n");
   fclose ( p );
}
 

Al observar tu código me di cuenta que haces fflush al flujo de entrada, pásate por los siguientes enlaces:

http://foro.elhacker.net/programacion_cc/lo_que_no_hay_que_hacer_en_cc_nivel_basico-t277729.0.html

Documentación de fflush

http://linux.die.net/man/3/fflush

Básicamente debes pedir al usuario las dimensiones de la matriz, recorrer dicha matriz pidiéndole al usuario el valor de cada elemento, sumar los elementos de cada fila y columna respectivamente y luego validar que todas las sumas sean iguales (puedes utilizar arreglos para almacenar la suma, tanto de las filas como de las columnas).

EDIT:

Además creo que debes validar la suma de la diagonal principal y que la matriz sea cuadrada.

Qué problema tienes?

EDIT:

No me queda claro lo de la condición

Si entendí bien, creo que lo siguiente debería funcionar:

#include <stdio.h>
#include <math.h>
 
int main(int argc, char **argv) {
	unsigned int n, m, a, b, contador = 0;
 
	printf("Introduzca el valor de n: ");
	scanf("%u", &n);
	printf("Introduzca el valor de m: ");
	scanf("%u", &m);
 
	for (a = 1; a >= 1 && a <= n; ++a)
		for (b = 1; b >= 1 && b <= m; ++b)
			if (fmod(pow(sqrt(a * b), 2), 1) == 0)
				++contador;
 
	printf("Número de pares ordenados: %u\n", contador);
 
	return 0;
}
 

EDIT:

#include <stdio.h>
#include <math.h>
 
int main(int argc, char **argv) {
	unsigned int n, m, a, b, contador = 0;
 
	printf("Introduzca el valor de n: ");
	scanf("%u", &n);
	printf("Introduzca el valor de m: ");
	scanf("%u", &m);
 
	for (a = 1; a <= n; ++a)
		for (b = 1; b <= m; ++b)
			if (fmod(pow(sqrt(a * b), 2), 1) == 0)
				++contador;
 
	printf("Número de pares ordenados: %u\n", contador);
 
	return 0;
}
 

Si lo inicias en uno debes asegurarte de cuando accedas a un elemento del arreglo lo hagas de la siguiente manera:

notas[contador-1]=aux;

ya que el arreglo va de 0 a n-1

Estás reservando un elemento menos en cada iteración:

notas=(float*)realloc(notas,sizeof(float)*contador);

En la primera iteración contador es cero estás reservando cero bytes... deberías hacer "contador + 1" ya que necesitas reservar espacio para contador+1 elementos.

EDIT:

No había leído el enunciado del problema, no hace falta utilizar memoria dinámica, simplemente puedes ir sumando las notas y llevar un contador de las notas que ha ido introduciendo y luego sacas la media con eso.