Si miras exactamente lo que es PHP, entenderás porque tienes que instalar "cosas".
PHP es un lenguaje de programación interpretado,Un lenguaje interpretado es un lenguaje de programación que está diseñado para ser ejecutado por medio de un intérprete
No asocies PHP con HTML pues son muy diferentes.
HTML, («lenguaje de marcado de hipertexto»), es el lenguaje de marcado. Un lenguaje de marcado o lenguaje de marcas es una forma de codificar un documento que, junto con el texto, incorpora etiquetas o marcas que contienen información adicional acerca de la estructura del texto o su presentación
Como te ha dicho BadDevil, instala un WAMP (Yo recomiendo easyphp) y te olvidas de problemas.
Saludos