Hola y bienvenid@ al Foro

El segmentation fault casi seguro que te sale porque estás accediendo a una zona de memoria que no has reservado, porque eso de un máximo de memoria creo que el límite es tu ram, revisa el código y haz una traza para asegurarte de que no utilizas alguna variable a la que no le has reservado memoria.

Espero haberte sido de ayuda.

Saludos

Muchas gracias a los dos por responder.

La cuestión es que mi programa es básicamente una simulación (que tengo implementada en una librería) y el programa principal es un barrido en dos parámetros. Tuve mucho cuidado en liberar toda la memoria que había asignado dinámicamente en la librería y de cerrar todos los archivos, al menos eso creo.

Encontré una función por internet que me calcula la memoria usada por el programa y lo que me extraña es que ésta va subiendo a escalones. Durante una serie de pasos  se mantiene constante pero en un paso aumenta. El máximo que me alcanza son unos 7 Mb lejos de los 4 Gb que tengo, por eso era mi duda si el compilador asignaba un máximo de uso.

Ahora estoy ejecutándolo con gdb. Traté de hacerlo con valgrind pero no entendía mucho sus mensajes.