Generar un cuadrado mágico de 5x5 llenándolo de números aleatorios puede llevarte mucho tiempo... mucho.
De todas formas tienes unos cuántos fallos en el cálculo de las sx y de los numx
Tu dices
s3=num11+num13+num13+num14+num15;
sumas dos veces el num13 y debe ser
s3=num11+num12+num13+num14+num15;
En s9, s11 y s12 vuelves a tener sendos errores.
Después la condición while del primer do termina con
m[j]==num24) cuándo tienes 25 números.
La condición while del último do solo miras la condición hasta s9, te quedan demás condiciones hasta s12.
De todas formas, una fuerza bruta para resolver el cuadrado puede llevar muchísimo tiempo.