HOLA!, soy estudiante de Ing. Informatica, y debo realizar un proyecto de un ahorcado en C, de 5 palabras, con comodines o palabras clave,  de 3 jugadores, con una ruleta incluida, (esta seria un vector de 5 posiciones con numeros aleatorios del 1 al 50), que se iran acumulando cada vez que un jugador acierte. Pero cada frase o palabra tiene que salir aleatoriamente y deben ser almenos 30 ya que cada vez que un jugador pierda, debe salir otra palabra o frase, con sus comodines, y recalco que es de 3 jugadores, y en la segunda ronda, ya que es de 3 rondas, empezara el jugador con mas puntos. mi duda es que no tengo idea como empezar, sinceramente quiero pasar la materia.  

Tu enunciado lía mucho. Antes de empezar debes estructurarlo, sino será imposible llegar a una solución.
Define otra vez el problema. Muchas veces preguntándose correctamente le pregunta, la respuesta llega sola.

Mira, esto ya es otra cosa.
Empieza por un array de strings (char* )con 30 palabras diferentes.
Crea una función que de forma aleatoria asigne 5 números irrepetibles, del 0 al 29, a cada uno de los tres jugadores. Estos números serán índices del array de palabras. Estas serán las palabras que tendrán que adivinar. Como puedes ver cada jugador deberá tener un array de 5 enteros.

Empieza con eso.