Depende el Unix que estes hablando, BSD, Solaris, Sco, Aix, HP-Ux, ....??? o su imitacion Linux.

Detalladamente, si hablamos del password de login (no de llaves publicas o privadas)ya que estas generalmente por compatibilidad utilizan el metodo de encriptacion DES o AES, de hecho rsa & dsa continuan basados en DES. Prosigo si hablamos de logines, ya sea de usuario o root estas en Linux por defecto se cifran en md5, y no te exhigen caracteres especiales o largos incluso puedes dejar un password vacio, ahora Solaris o BSD si te lo exhigen, pero por igual cifran en md5, ahora en los sistemas BSD, en Netbsd por ejemplo en su instalacion te da la opcion de usar

DES
Md5
Blowfish

en los demas BSD en la instalacion no te da la opcion aunque, en el archivo login.conf puedes indicarle que quieres que las passwords del sistema se cifren en blowfish por ejemplo, que es el sistema de cifrado standard de OpenBSD, y este sistema de cifrado soporta mas caracteres que md5 pero tiene el mismo mecanismo de cifrado que md5 de reverso.

cada vez que veas un password que inicia con simbolo de $1$ es un cifrado de md5, ahora si vez uno que va asi $2$ es un cifrado tipo blowfish, ahora si vez uno asi "ESR243" y bien cortito, probablemente es un cifrado de DES o AES, ya que los que comienzan con $ en su cifrado estamos hablando de MD5. O Blowfish si lleva el numero 2 como mostre anteriormente.

Y ni hablar de la seguridad de un MD5 o Blowfish con respecto a vulnerarla, de esto no debes preocuparte.