No entiendo muy bien lo primero que preguntas y tampoco creo que hubiese podido responderte de todas formas. En cuanto a lo segundo, la funcion system() sirve para ejecutar comandos del sistema operativo, si tu abres CMD en Windows, ejecutas un par de comandos y despues haces el comando "cls" (sin comillas) lo que hará será limpiar la pantalla asi que lo que necesitas es el equivalente a esos comandos el linux, el equivalente a "cls" es "clear" y para "pause" no sabría decirte. Dicho esto te desaconsejo totalmente el uso de de system("pause"), la primera razón es el problema que tienes tu y es que no es portable, solo tendrá efecto en los sistemas que soporten el comando pause y que ademas es muy pesado llamar al sistema para hacer una pausa en tu programa, te recomiendo otras alternativas como getchar(); o esta pequeña linea de codigo:

while ( getchar() != '\n')
;

que lo que hará es estar ejecutandose mientras tu no pulses la tecla enter. Del mismo modo, en vez de utilizar system("cls") sería mejor y más portable el uso de fflush().

Como consejo te recomiendo que leas esto: |Lo que no hay que hacer en C/C++. Nivel basico|

Saludos.

Esto que comentas es inapropiado pues puedes perder el control del programa, estoy seguro que lo podéis solucionar con un bucle infinito:

#include <iostream>
 
int main(int argc, char** argv)
{
     for( ; ; )
     {
           //Hacer algo.
           //Condición para salir
           if(algo)
               break;
     }
     return 0;
}

Un cordial saludo.

No te lo aconsejo pero como veas, fíjate que te vas a quedar en una llamada infinita:

if(/*condición*/)
{
    main();
}

Estoy completamente seguro de que tu código podría organizarse de manera de que no te haga falta dicha llamada.

Un saludo.