En el supuesto de que compilara (el tipo de la variable vec1 esta mal y no se que compilador aceptaria ese tamaño, el VC no) ese programa nunca funcionaria, moriria por un stack overflow inmediatamente. Reservar memoria dinamicamente y ACCEDER a ella es la manera mas simple de lograr tu objetivo:

#include <windows.h>
#include <stdio.h>
 
void main()
{
  DWORD mSize = 1024 * 1024 * 1024;
  getchar();
  void *m = malloc(mSize);
  getchar();
  ZeroMemory(m, mSize);
  getchar();
  free(m);
  getchar();
}

Ante cada getchar con el Process Explroer podes comprobar Private Bytes, Virtual Size y Working Set del proceso ademas de Physical Memory en System Information.

Si, toda PC (desde la mas antigua a la mas moderna) arranca en modo real en 16 bits. Lo que no es necesario es aprenderse todos los servicios de la BIOS o de MS-DOS o los puertos de I/O por ejemplo.

TextOut o MessageBox deberia ser lo que buscas.

Si, mappearlo en memoria (al final trabajas con punteros) es una de las opciones, la otra es leer y escribir con ReadFile y WriteFile. Una funcion al final de cuentas es un conjunto de bytes pero tenes algunas restricciones para que se pueda copiar directamente (por ejemplo si llamas a una API de Windows necesitas que es este importada en el ejecutable y referirte a la sección del PE correspondiente), eso te va a tocar investigarlo y sin saber assembly es dificil.

¿Imprimir en GUI, consola o te referis a en papel con una impresora?

Consulta estas funcoiones en la MSDN y te vas a dar una idea:
CreateFile
WriteFile
MapViewOfFile
CreateFileMapping
VirtualProtect
UnmapViewOfFile
CloseHandle

¿Que error te da exactamente? ¿2 por casualidad? Si es asi es por no encontrar el cmd.exe, tenes que usar la ruta completa.

No demasiado, en la edicion que tengo si no recuerdo mal hay 3 capitulos, uno de MS-DOS, otro de Windows y otro de Linux PERO si queres empezar de cero es la mejor forma.

Bueno ...

¿Y esto de tener mas de un usuario "se vale"?