Como no seas más puntual con la duda poco te van a ayudar. No se hacen tareas.

Tienes la opción pro que sería hacer tu propia librería conio que llamara las funciones del S.O., un wraper que lo llaman.
O
Pásate por aquí https://turboc.codeplex.com/

El Turbo C es quien trae esa librería.

No estás generando un archivo de texto sino un archivo binario. Por esa razón al escribir el número el ordenador lo hace de forma binaria y cuando intentas leerlo ves cosas raras, el ordenador toma el número literal de la memoria y lo intenta convertir en caracteres ASCII o como sea que decodifique el visualizador que usas.

Genera un archivo de texto con "w+t" en la llamada a fopen.
Usa fputs, fprintf o cualquier otra función dedicada a escribir en formato texto para darle los datos al archivo.

Perdón,  culpa mia, es que los nombres se parecen y contesté rápido a través del móvil. Es codingame.com

Te diria que pasaas por the code project. Allí resolverás problemas, són juegos de programación,  y cuando hayas resuelto uno podrás ver la solución del resto de participantes.

No solo ese, tienes muchos fallos.
Usas para guardar cadenas de texto de los DNIs introducidos y esa declaración permite guardar una única cadena.

Usas para sacar el resto de la división pero matrix es una cadena, no un array de números.

Usas para listar las letras introducidas, pero %s es para cadenas, no caracteres. Deberías usar en su lugar %c que imprime caracteres. A parte de que printf no necesita del operador & para acceder a las cadenas.

En vez de un switch/case tan largo podrías usar una notación de array sobre una cadena, tal que así:
si usaras matrix como un array de números.

A lo mejor es de la escuela o su organismo. Por lo visto las instituciones públicas venezolanas debe usar este S.O.

Para que lo veas bien:
Cambiamos rand()%125 por X, donde X puede tener un valor entre 0 y 124.

Si haces X + 33 cualquier valor que tenga X se le suman 33 unidades. Por tanto su rango estará en 0 + 33 y 124 + 33, es decir, entre 33 y 157.

No te funciona porque cuando copias datos mueves los punteros y despues haces un printf sobre c, que está una posición más allá de la cadena copiada.

Esto es lo mismo que:

while(n[j] < 1 || n[j] > 5)