Hola, me pareció muy interesante tu post, así que me lié a buscar información, y estas son mis conclusiones:

Lo primero es que veo mucho, demasiado oscurantismo alrededor de encontrar información interna del cacharro ese, llegué a pensar que no usaba un microcontrolador. Se ve que a la empresa no le interesa dar mucha información sobre cómo está hecho el parato. Este enlace es fundamental, contiene fotos de uno abierto, de donde puedes sacar que chip es: http://www.mpc-forums.com/viewtopic.php?f=21&t=53199&start=15
El chip es 6417727F SH3-DSP 160V, de ahí googleas y ya te da que es de la casa Renesas.
De ahí sólo te queda buscar el datasheet y el manual de la página:
http://www.renesas.com/products/mpumcu/superh/sh7700/sh7727/device/HD6417727F160CV.jsp
Efectivamente es un SH7727
Ahí tienes un manual de 1000 páginas que lo explica todo, al menos todo lo que puede. Esa debería ser tu guía de estudio.
El formato de un firmware, el .bin por ejemplo, suele ser una imagen de la memoria, de la memoria ROM, es decir ese fichero se graba como tal en la ROM, luego leyéndote el manual aprendes cómo arranca y cómo mapea esa memoria en su espacio virtual de direcciones (y su ensamblador). El otro lleva una extensión diferente, no tengo ni idea de qué es. En todo caso no son formatos ejecutables, eso creo, es decir, los firmwares no son ejecutables, simplemente se flashean a una memoria ROM, que luego al arrancar el chip se mapea en diferentes direcciones. O sea, más bien te interesa saber con qué programa lo flasheas y cómo lo hace, ahí tienes esa parte de la información.
Tengo que decirte que si quieres aprender ing. inversa este es un método fabuloso, aprenderás mucho, pero tardarás bastante en lograr tu cometido, la meta es algo lejana, y más si no sabes de informática y de estas cosas.
Lo último, una idea, si sigues con ello, podrías hacer un sistema operativo alternativo a esto, creo que esto del oscurantismo viene de la tajada que están sacando con ese firmware que lleva un precio tan desproporcionado para lo que es. Desde luego sería un proyecto con el que podrías llevarte algo de fama, o dinero si lo haces bien. Según he leído, ese sistema no tiene alternativas ni competidores.
Preguntas que en que lenguaje se programó, mi apuesta es que seguramente C con ensamblador por supuesto. En la página de Renesas puedes encontrar software, compiladores, emuladores, etc, supongo como en todas. Es Akai la que le interesaba ocultar que lleva dentro, pero sólo hay que abrir el cacharro y mirarlo, en todo caso ahí lo tienes hecho.
Saludos, hacía mucho que no pasaba por este foro y este post en ing. inversa me ha resultado muy grato.