con soporte para CSS, javascript y PHP
HTML, CSS y JS son interpretados por el navegador, así que el hosting no tienenada que ver ahí.
Yo utilizo Hostinger para mi web. Te ofrece PHP y MySQL. Para proyectos donde necesite más control, Cloud9 (pero el plan gratuito en este último hiberna el servidor a las horas de dejar de usarlo) (Aunque este para una web normalita no vale la pena)
Para editar los archivos, utilizo Notepad++ con el plugin npp-ftp, que te guarda automáticamente los archivos en el ftp. (Aunque ciertamente para editar y ver al-momento, prefiero:
http://ivancea.xyz/HTMLparser.php xD)
Ahora estoy leyendo el segundo párrafo y he de decir, que nada de esto que dije sirve para diseño tipo "arrastrar y soltar". Con esto tendrás que hacerlo todo a mano.
Y acerca del tercer párrafo, decir que Hostinger te permite hacer backups de la web y de las bases de datos y descargarlos. En lo que llevo con él, no me dio ningún problema. Lo único, que su plan gratuito alguna vez se me ha sobrecargado cuando algún amigo ha hecho <demasiadas> peticiones a la web. Todo depende de aqué público lo vas a orientar (si es que la vas a orientar al público). La mía la utilizo solo yo y algún amigo, así que va bastante bien.