Un virus y un RAT son cosas totalmente distintas. Para tema virus primero deberías igual ver como se ejecutan los archivos en android y ver como puedes meter codigo tuyo en programas ya hechos e instalados. En principio te tendrias que saltar la proteccion de sandbox del propio android. Tendrias que informarte bien sobre el sistema android y sus compilados para saber como funcionan y ver la posibilidad de cambiarlos introduciendo tu virus. Tendras que mirar formas de autodeteccion de que un programa tiene ya el virus, para no infectarlo dos veces. Y despues pensar en que es lo que quieres hacer con el virus. Si quieres cifrar los archivos tendras que leer un poco sobre cifrado de archivos, si quieres borrar todos los datos del movil en una fecha pues tendrás que ver cómo se hace.

Sobre RAT, en esencia es parecido a hacer un chat. ¿Has programado un chat en java? Necesitas saber de sockets y ejecutar comandos en el sistema. Que no es muy dificil a priori.
Al final, en un chat tienes un extremo que envia frases al otro para que el usuario las conteste y puedas ver las contestaciones. En un RAT envias frases al otro extremo para que el otro lado las ejecute y enviar la salida de esa ejecucion para que tu la leas. A partir de ahi, ya vienen las cosas adicionales que quieras añadir a ese programa.

Sobre el proceso de entrada en el sistema, las imagenes, videos, etc... no ejecutan código en el ordenador. Son leidas por otro programa que va interpretar eso como datos. Luego, o bien encuentras un fallo que permita que los programas que leen esos archivos se confundan y ejecuten los datos que leen como si fuese codigo (Osea encontrar un exploit para el programa o sistema) o tendras que ocultarlo y engañar al otro para que lo ejecute.

Si estas empezando a programar, yo la verdad optaria por hacerte un programa simple de ejecución remota entre dos ordenadores para después ir agregando funcionalidades. Primero ejecutas cosas en el otro ordenador, despues intentas captar las teclas que va pulsando el ordenador remoto, despues intentas poder hacer screenshoots, etc...

Si quieres mirar los virus, empezaría por un virus que infecte programas en lenguajes de script, php, python, powershell,... despues miraria un poco para hacer virus que infecten los .class de java y despues ya me plantearía el ir hacia cosas mas bonitas. La funcionalidad del virus puede ser simplemente poner un hola mundo.

Y obviamente en ningun momento se me ocurriria utilizarlo en ningun sistema en el que no tenga consentimiento. Las pruebas con gaseosa.