Efectivamente la lógica de lo que intentas hacer esta correcta solo que al momento de retornar el valor de la función estás considerando que se hace una concatenación de los valores más sin embargo así tal como está tu código se realiza una suma, por eso es que te regresa 6 que es 3+2+1, no estoy muy empapado de java pero puedes intentar convertir a string la operación del (num%10)

Si efectivamente sería lo más óptimo convertir a String e invertirla pero tal vez sea un ejercicio que tenga que realizar con recursividad.
El código solo necesita unos pocos ajustes:

public static String invertir(int num){
   if (num < 10){
      return String.valueOf(num);
   } else{
      return String.valueOf(num%10) + invertir(num/10);
   }
}

En vez de sumar solo num%10, deberías sumarlo multiplicado por 10^N, donde N sería la cantidad de dígitos del número (para colocar la cifra al final).

(num%10)+(invertir(num/10)*10)
Suponte que num es 123.
(123%10) + invertir(123/10) * 10
Pasaría a:
3 + invertir(12) * 10

Supongamso que invertir funcionase correctamente (que lo hará cuando esté corregida):
3 + 21*10
3 + 210
213

Tú no quieres sumarle 3.
Tú buscas esto:
3*10^3 + 21 (sin el *10)
300 + 21
321

10^3. Ese 3 es el número de cifras del número inicial, 123.

Bien. De todosmodos, quería comentar que me equivoqué. No es 10 elevado al número de dígitos, sinó al número de dígitos menos 1 (3 * 10^3 no es 300 xD)