En casa es muy complicado, no vas a tener una conexión a internet con el ancho de banda necesario, ni un generador de luz, ni aire acondicionado, ni salidas rebundantes, etc, etc, no te lo aconsejo si es un proyecto grande. Para empezar o hacer algo casero, entonces perfecto. Cualquier distro de Linux te sirve.... Centos, Debian, Gentoo son excelentes elecciones para servidor. Quizás Gentoo un poco más avanzada por el tema que se compila todo.
Google, Facebook no te sirven como ejemplo, porque su infraestrctura es tan tan grande, que ellos tienen granjas de servidores, y datancenters enteros por todo el mundo....