pues nunca he tenido necesidad de hacer eso  ,

pero supongo que con un while (condicion) en la condicion pon algo q simpre se cumpla y asi se repetira infinitas veces.

while (1)

y dentro del while metele un malloc() o algo asi, q vaya reservando memoria cada vez que se ejecute el while. Evidentemente dentro del malloc tendras q poner un contador o algo para que cada vez que se ejecute reserve mas y mas y mas memoria.

Aunque no se si petara o no el SO, normalmente es el programa el q peta dandote un "segmentation fault" o algo asi, vamos que te va a generar un core

animos, aunque me parece una tonteria de programa ....