int main(){
	double puntuacionHumano, puntuacionMaquina;
	int modo, numCartas;
	ifstream fichero;
	do{
		modo = menu();
		srand(time(NULL));
 
		if(modo != 0){
			numCartas = MINIMO + rand() % (MAXIMO - MINIMO + 1); // esto genera un numero en el intervalo cerrado [MINIMO, MAXIMO]
			// esto tienes que hacerlo con la funcion generarMaxCartas() pero te lo dejo asi para que veas como se usa rand
			fichero = abrirFichero();
		}
 
		switch(modo){
			case 1:
				cout << "\nEmpieza el juego (modo A: numCartas = " << numCartas << "):" << endl; 
				puntuacionHumano = modoA(fichero, numCartas);
				puntuacionMaquina = modoA(fichero, numCartas);
				determinaGanador(puntuacionHumano, puntuacionMaquina);
				break;
			case 2:
				cout << "\nEmpieza el juego (modo B: numCartas = " << numCartas << "):" << endl;
				puntuacionHumano = modoBHumano(fichero, numCartas);
				puntuacionMaquina = modoBMaquina(fichero, numCartas, puntuacionHumano);
				determinaGanador(puntuacionHumano, puntuacionMaquina);
				break;
			default:
				cout << "Saliendo del juego..." << endl;
		}
	}	while(modo != 0);
} 

#include<iostream>
#include<cstdlib>
#include<ctime>
#include<fstream>
#include<string>
 
using namespace std;
 
const int HUMANO = 1;
const int MAQUINA = 2;
 
int menu();
double modoA(ifstream & archivo, int numeroAleatorio); //archivo lo puedes llamar como quieras aqui, pero luego al invocar tienes qe poner "archivo"
int determinaGanador(double puntosHumano, double puntosMaquina);
double modoBmaquina(ifstream & archivo, int numeroAleatorio, double puntosHumano);
double modoBhumano(ifstream & archivo, int numeroAleatorio);
 
int main()
{
	int numeroAleatorio, modo;
	ifstream archivo;
	double puntosHumano, puntosMaquina;
 
 
	srand(time(NULL));
	numeroAleatorio = 3 + rand() % (5 - 3);
 
	modo = menu();
 
	if (modo == 1)
	{
		string baraja;
		cout << "Introduce el nombre del archivo que quieras abrir: " << endl;
		cin >> baraja;
 
		archivo.open(baraja); //archivo es lo declarado en ifstream
 
		while (!archivo.is_open())
		{
			cout << "El archivo es incorrecto" << endl;
			cin >> baraja;
			archivo.open(baraja);
		}
		puntosHumano = modoA(archivo, numeroAleatorio);
		puntosMaquina = modoA(archivo, numeroAleatorio);
 
		if (determinaGanador(puntosHumano, puntosMaquina) == HUMANO) {
			cout << "&#65311;as ganado!" << endl;
		}
		else
		{
			cout << "Ha ganado la maquina" << endl;
		}
 
	}
	else if (modo == 2)
	{
		string baraja;
		cout << "Introduce el nombre del archivo que quieras abrir: " << endl;
		cin >> baraja;
 
		archivo.open(baraja); //archivo es lo declarado en ifstream
 
		while (!archivo.is_open())
		{
			cout << "El archivo es incorrecto" << endl;
			cin >> baraja;
			archivo.open(baraja);
		}
		puntosHumano = modoBhumano(archivo, numeroAleatorio);
		puntosMaquina = modoBmaquina(archivo, numeroAleatorio,puntosHumano);
		if (determinaGanador(puntosHumano, puntosMaquina) == HUMANO) 
		{
			cout << "Ha ganado el HUMANO" << endl;
		}
		else
		{
			cout<<"El ganador es la maquina"<<endl;
		}
	}
	else if (modo == 3)
	{
 
	}
	else if (modo == 4)
	{
 
	}
 
 
 
 
	return 0;
}
 
int menu()
{
	int modo;
	cout << "Elige el modo al que quieras jugar: " << endl;
	cout << "Introduce 1 para Modo A: cada jugador estara obligado, cuando le llegue el turno, a robar un numero concreto de cartas." << endl;
	cout << "Introduce 2 para Modo B: cada jugador podra robar el numero de cartas que desee y plantarse si no quiere mas." << endl;
	cout << "Modo C " << endl;
	cout << "Modo D " << endl;
	cout << "Introducir 0 para salir del juego." << endl;
	cin >> modo;
 
	while (modo < 0 || modo > 4) {
		cout << "No ha seleccionado ningun modo, vuelva a seleccionar el modo: ";
		cin >> modo;
 
	}
 
 
	return modo;
}
 
double modoA(ifstream & archivo, int numeroAleatorio)
{
	int final = 0, aux;
	double puntos = 0;
 
	while (final < numeroAleatorio && puntos < 7.5)
	{
		archivo >> aux;
		if (aux > 7) {
			puntos = puntos + 0.5;
		}
		else
		{
			puntos = puntos + aux;
		}
 
 
 
	}
 
	return puntos;
}
 
double modoBhumano(ifstream & archivo, int numeroAleatorio)
{
	int final = 0, aux, responder;
	double puntos = 0;
	bool continuar = true;
 
	while (final < numeroAleatorio && puntos < 7.5 && continuar)
	{
		archivo >> aux;
		if (aux > 7) {
			puntos = puntos + 0.5;
		}
		else
		{
			puntos = puntos + aux;
		}
		cout << "Tu puntuacion es; " << puntos << endl;
		cout << "1 para seguir y 2 para parar " << endl;
		cout << "Quieres continuar? " << endl;
		cin >> responder;
 
		while (responder < 1 || responder > 2) {
			cout << "No ha seleccionado ningun modo, vuelva a seleccionar el modo: ";
			cin >> responder;
		}
 
		if (responder == 1) {
			continuar = true;
		}
		else {
			continuar = false;
		}
	}
 
	return puntos;
}
 
double modoBmaquina(ifstream & archivo, int numeroAleatorio, double puntosHumano)
{
	int final = 0, aux;
	double puntos = 0;
	bool continuar = true;
 
	while (final < numeroAleatorio && puntos < 7.5 && continuar)
	{
		archivo >> aux;
		if (aux > 7) {
			puntos = puntos + 0.5;
		}
		else
		{
			puntos = puntos + aux;
		}
 
		if (puntosHumano > puntos)
		{
			continuar = true;
		}
 
		else {
			continuar = false;
		}
	}
 
	return puntos;
}
 
 
int determinaGanador(double puntosHumano, double puntosMaquina)
{
	int ganador;
	if (puntosHumano > puntosMaquina)
	{
		ganador = HUMANO;
	}
	else if (puntosHumano < puntosMaquina)
	{
		ganador = MAQUINA;
	}
	else
	{
		ganador = HUMANO + rand() % +(MAQUINA - HUMANO);
	}
 
 
	return ganador;
}

Lo primero que no sé que idea tienes en la cabeza entonces no sé por qué haces algunas de las cosas que haces:
- El prototipo de la función <abrir()> no tiene parámetros, pero la definición de la función <abrir()> tiene un parámetro de tipo <int>.
- La función <menu()> está casi bien. Si la opción es 0 cambias el valor a una variable de tipo bool que no sé cual es su utilidad.  
- Además según tú, la función <abrir()> devuelve un valor de tipo <int> y tu función no devuelve nada.
- En la función <abrir()> compruebas que la variable <modo> sea 1 pero la variable <modo> no está inicializada.   Ahí lo único que tendría un poco de sentido sería que en vez de <modo == 1> quieras hacer <menu == 1>. Pero tienes que corregirlo.
- Y por último en todo el programa no llamas a la función <abrir()>  

#include <cstdlib>
#include<ctime>
#include<fstream>
#include<string>
 
 
using namespace std;
 
#define HUMANO =1;
#define MAQUINA =2;
 
int menu();
int abrir();
 
void lectura(int modo);
 
int main()
{
	int modo;
 
	modo = menu();
	lectura(modo);
 
	system("PAUSE");
 
	return 0;
}
 
 
int menu()
{
	int modo;
 
	bool exit = false;
	do {
 
		cout << "Introduce 1 para Modo A: cada jugador estara obligado, cuando le llegue el turno, a robar un numero concreto de cartas." << endl;
		cout << "Introduce 2 para Modo B: cada jugador podra robar el numero de cartas que desee y plantarse si no quiere mas." << endl;
		cout << "Introducir 0 para salir del juego." << endl;
		cout << endl;
		cout << "Introduce el modo al que quieres jugar: 1, 2 o 0: ";
		cin >> modo;
 
 
		switch (modo)
		{
		case 1: cout << "Ha elegido el modo A" << endl; break;
		case 2: cout << "Ha elegido el modo B" << endl; break;
		case 0: exit = true;
		default: cout << "No ha seleccionado ningun modo." << endl;
		}
 
 
	} while (modo < 0 || modo > 2);
 
 
	system("PAUSE");
 
 
	return(modo);
 
}
 
 
void lectura(int modo){
 
	ifstream archivo;
	string text,texto;
	cout<<"Introduce el nombre o ubicacion del archivo: "<<endl;
 
	archivo.open(text.c_str(),ios::in); //Abrimos el archivo en modo lectura
 
	if(archivo.fail()){
		cout<<"No se pudo abrir el archivo";
		exit(1);
	}
 
	while(!archivo.eof()){ //mientras no sea final del archivo
		getline(archivo,texto);
		cout<<texto<<endl;
	}
 
	archivo.close(); //Cerramos el archivo
 
}
 
double modoA(ifstream & archivo, int numCartas) 
{
 
 
 
 
 
 
 
 
}

El prototipo de la función <abrir> no tiene parámetros pero luego en su implementación sí tiene un parámetro de tipo <int>
Si estás haciendo cambios en el programa vuelve a mandar el código para ver como lo tienes ahora ya que no es igual que el que mandaste al principio.

#include <iostream>
#include <cstdlib>
#include<ctime>
#include<fstream>
#include<string>
 
 
using namespace std;
int menu();
int abrir();
 
 
int main()
{
	int modo;
 
 
	modo = menu();
 
 
 
	system("PAUSE");
 
	return 0;
}
 
 
int menu()
{
	int modo;
 
	bool exit = false;
	do {
 
		cout << "Introduce 1 para Modo A: cada jugador estara obligado, cuando le llegue el turno, a robar un numero concreto de cartas." << endl;
		cout << "Introduce 2 para Modo B: cada jugador podra robar el numero de cartas que desee y plantarse si no quiere mas." << endl;
		cout << "Introducir 0 para salir del juego." << endl;
		cout << endl;
		cout << "Introduce el modo al que quieres jugar; 1, 2 o 0: ";
		cin >> modo;
 
 
		switch (modo)
		{
		case 1: cout << "Ha elegido el modo A" << endl; break;
		case 2: cout << "Ha elegido el modo B" << endl; break;
		case 0: exit = true;
		default: cout << "No ha seleccionado ningun modo." << endl;
		}
 
 
	} while (modo < 0 || modo > 2);
 
 
	system("PAUSE");
 
 
	return(modo);
 
}
 
 
int abrir(int menu)
{
	int modo;
 
 
	if (modo == 1)
	{
 
 
		ifstream archivo;
		string text, texto;
 
		cout << "Ingrese nombre o direccion del archivo a leer: ";
		getline(cin, text);
		text += ".txt";
 
		archivo.open(text.c_str(), ios::in);
 
 
		if (archivo.fail()) {
 
			cout << "No se ha podido abrir el archivo";
			exit(1);
 
		}
 
		while (!archivo.eof())
		{
			getline(archivo, text);
			cout << text << endl;
 
		}
 
		archivo.close();
 
		cin.get();
 
 
	}
 
}

#include <iostream>
#include <cstdlib>
#include<ctime>
#include<conio.h>
#include<fstream>
#include<string>
#include<istream>
 
using namespace std;
int menu();
int abrir();
 
 
int main()
{
	int modo;
 
 
	modo = menu();
 
 
 
	system("PAUSE");
 
	return 0;
}
 
 
int menu()
{
	int modo;
 
	bool exit = false;
	do {
 
		cout << "Introduce 1 para Modo A: cada jugador estara obligado, cuando le llegue el turno, a robar un numero concreto de cartas." << endl;
		cout << "Introduce 2 para Modo B: cada jugador podra robar el numero de cartas que desee y plantarse si no quiere mas." << endl;
		cout << "Introducir 0 para salir del juego." << endl;
		cout << endl;
		cout << "Introduce el modo al que quieres jugar; 1, 2 o 0: ";
		cin >> modo;
 
 
		switch (modo)
		{
		case 1: cout << "Ha elegido el modo A" << endl; break;
		case 2: cout << "Ha elegido el modo B" << endl; break;
		case 0: exit = true;
		default: cout << "No ha seleccionado ningun modo." << endl;
		}
 
 
	} while (modo < 0 || modo > 2);
 
 
	system("PAUSE");
 
 
	return(modo);
 
}
 
 
int abrir(int menu)
{
	int modo;
 
 
	if (modo == 1)
	{
 
 
		ifstream archivo;
		string text, texto;
 
		cout << "Ingrese nombre o direccion del archivo a leer: ";
		getline(cin, text);
		text += ".txt";
 
		archivo.open(text.c_str(), ios::in);
 
 
		if (archivo.fail()) {
 
			cout << "No se ha podido abrir el archivo";
			exit(1);
 
		}
 
		while (!archivo.eof())
		{
			getline(archivo, text);
			cout << text << endl;
 
		}
 
		archivo.close();
 
		_getch();
 
 
	}
 
	return (menu);
}

#include <iostream>
#include <cstdlib>
#include<ctime>
#include<conio.h>
#include<fstream>
 
using namespace std;
int menu();
int abrir();
 
int main()
{
	int modo;
	int lectura;
	modo = menu();
	modo = abrir();
	ifstream archivo;
	string text, texto;
 
	system("PAUSE");
 
	return 0;
}
 
 
int menu()
{
	int modo;
	bool exit = false;
	do {
 
		cout << "Introduce 1 para Modo A: cada jugador estara obligado, cuando le llegue el turno, a robar un numero concreto de cartas." << endl;
		cout << "Introduce 2 para Modo B: cada jugador podra robar el numero de cartas que desee y plantarse si no quiere mas." << endl;
		cout << "Introducir 0 para salir del juego." << endl;
		cout << endl;
		cout << "Introduce el modo al que quieres jugar; 1, 2 o 0: ";
		cin >> modo;
 
 
		switch (modo)
		{
		case 1: cout << "Ha elegido el modo A" << endl; break;
		case 2: cout << "Ha elegido el modo B" << endl; break;
		case 0: exit = true;
		default: cout << "No ha seleccionado ningun modo." << endl;
		}
 
 
	} while (modo < 0 || modo > 2);
 
 
	system("PAUSE");
 
 
	 return(modo);
 
}
 
int abrir()
{
 
int lectura; 
ifstream archivo; 
string text, texto; 
 
cout << "Ingrese nombre o direccion del archivo a leer: "; 
getline(cin,text); 
text += ".txt"; 
 
archivo.open(text.c_str(),ios::in); 
 
 
if(archivo.fail()){ 
 
cout << "No se ha podido abrir el archivo"; 
exit(1); 
 
} 
 
while(!archivo.eof())
{
 getline(archivo,texto);
 cout << texto << endl;
 
 } 
 
 archivo.close(); 
 
 getch();
 return(lectura);
 
 
  }