En Virtualbox solo tienes que irte a archivo, preferencias, red. Ahí en la derecha le das al + verde y se te crea un adaptador. Le das click derecho y le pones la ip del cliente.
Vas a la configuración de la maquina virtual y ahí puedes añadir varios adaptadores.
Añades el adaptador creado como solo anfitrion en el adaptador 2. Tras eso solo necesitas configurar los archivos del servidor para incluir el adaptador y la ip del servidor. En cada sistema es distinto.
En el adaptador 3 tienes que tener una opción para crear una red virtual. Le das el nombre que quieras.
Cada maquina virtual que crees y quieras conectar a la red, le das click derecho, configurar y añades esta red que creaste.

Busca como añadir un adaptador de red en el sistema que uses. Suelen ser solo un par de archivos en los que debes añadir el adaptador y la ip del servidor.

A partir de aquí toda la configuración es exactamente igual que en un servidor físico. Puedes usar la documentación oficial de todo el software.

Obviamente necesitas el router como cliente. La instalación una vez hecho lo que te dije es exactamente igual que un Radius físico.
Si te lias te dejo alguna explicación pero es bastante sencillo. Es para ubuntu server sobre un windows con virtualbox. Usa freeradius y añade la gui a la imagen del sistema para poder usar el gns3 como simulador de topologias de red. Si no vas a usar el simulador puedes crear el servidor sin interfaz grafica como es habitual cuando vas a tener varias maquinas y no quieres malgastar recursos. En caso de que quieras utilizarlo opta por uno liviano como xfce.

https://www.alwaysnetworks.co.uk/blog/aaa-server-with-freeradius-ubuntu-virtualbox-and-gns3/
http://freeradius.org//
https://wiki.freeradius.org/features/Virtual-Servers

Si surgen problemas o dudas durante el procedimiento pregunta, pero con esas 3 webs deberia ser sencillo.

Me imagino que tienes el raspberry con Windows10 virtualbox y dentro la maquina que quieres usar de servidor?
O quieres instalar directamente el servidor en metal sobre la raspberry pi?
No tengo ni idea de como virtualizar un router en Linux. Ni si se puede. Me imagino que si se podrá, pero como nunca he utilizado un router virtual en linux, no tengo ni idea de si se puede, ni conozco software para eso.

En el primer caso. Aqui tienes un ejemplo: https://forums.virtualbox.org/viewtopic.php?f=2&t=33129