A ver ... no hay nada que sea súper seguro out-of-the box ... es un poquito y un poquito.
Es decir, que vos ponés tu parte para aportar a la seguridad y el sistema pone su parte con las herramientas.

Con cualquier sistema tipo Unix vas a estar bien *en general* ... En GNU/Linux alguna distro orientada a eso o que no te enquilombe mucho el hacerlo.
Dentro del mundo de los *BSD (donde particularmente me siento más "cómodo") vas a tener menos soporte de hardware, con lo que el sistema no vá a ser tan portable, pero tenés un entorno más copado y limpio para trabajar el tema de la seguridad.

Si te tengo que dar un equilibrio entre seguridad y funcionalidad diría GNU/Linux ... si la portabilidad no es un problema y FreeBSD funciona donde querés usar el sistema, entonces vé por el...  aunque tendrías que "armarte" el sistema para que quede perfecto y eso tiene una curva de aprendizaje MUCHO más densa que GNU/Linux.

Saludos.

P.S: OpenSolaris murió ... ahora sigue en Illumos y derivados como OpenIndiana

P.S 2 : ¿En qué entorno pensás usar el sistema?