justamente tengo un proyecto no terminado de lo que queres hacer, no de un SO porque eso es imposible (ya con el mismo windows basta, para que tener otro), pero de un menu que se despliega cuando haces click en el boton de inicio y ocultar el de windows y mostrar el mio propio, con mis propias opciones. para saber cuando hace click o aprieta una tecla, ya que se puede desplegar de bastantes formas el menu, haces un hook y cuando detectas los mensajes que se producen pues ahi mostras el menu y todo lo que quieras.por ahi tenes un ejemplo de Leandro que hizo una barra de tareas completa.

saludos.