Puedes usar las instrucciones FPU para obtener la raiz cuadrada con punto decimal de la siguiente forma :
fld qword[x]
fsqrt
fst qword[x]
Siendo "x" :
x dq 10f
Ejemplo :
format PE console
include 'win32ax.inc'
section '.code' readable writeable executable
x dq 10f
entry $
fld qword[x]
fsqrt
fst qword[x]
invoke printf,"%f",double[x]
invoke ExitProcess,0
section '.idata' import data readable
library msvcrt,'msvcrt.dll',kernel32,'kernel32.dll'
import msvcrt,printf,'printf'
import kernel32,ExitProcess,'ExitProcess'