Para equipos tan limitados yo siempre he recomendado distribuciones GNU/Linux. Aunque hayas cambiado el disco duro por un SSD lo cual se notará (aunque 120 GB tampoco dan para mucho), 2 GB de RAM me parecen muy muy limitados para un Windows 10.
Claro está que es importante conocer el uso que se le va a dar al ordenador pero siendo tan antiguo no creo que se vaya a usar para edición de vídeos o cosas por el estilo. Si el uso que se le va a dar es el típico de cualquier usuario promedio (internet, editor de texto, reproductor multimedia,...) un sistema Linux cumplirá mucho mejor que Windows.

Si por lo que sea quieres o necesitas seguir utilizando Windows, no puedo ayudarte porque desconozco como optimizarlo pero sí te digo que yo he instalado Linux en sistemas con más recursos que ese y el cambio ha sido muy satisfactorio.

Suerte 

¿Windows 10 con 2GB de Ram?  

Suerte del disco duro SSD o tu pc irá tan lento que lo acabarás tirando por la ventana.

¿Y la tarjeta gráfica? O es la integrada? En un PC tan antiguo quizás instalado una tarjeta PCI-E muy sencilla consigas algo de mejora.

En tu caso lo mejor sería utilizar un Windows 10 muy liviano (que no consuma muchos recursos).

Te va como anillo al dedo un Windows 10 Lite

Windows 10 Lite by NTDEV
https://foro.elhacker.net/windows/windows_10_lite_by_ntdev-t508182.0.html

Hola compañero, no me fio mucho de estos windows 10 "lite" o "livianos", en el pasado solia instalarlos y siempre me acababan dando problemas con impresoras, drivers y mas problemas.