Existen varias razones por las cuales PHP no se ejecutaría.
Primero te sugeriría que revises la fuente de lo que se muestra.
Tu navegador podría mostrar solo "Este es el encabezado 1", pero al mirar la fuente (clic derecho>Ver fuente), podrías notar que las etiquetas PHP siguen ahí aunque no se muestren.
Esto obviamente significaría que el PHP no se está ejecutando.
También puedes probar phpInfo() para ver cómo (si se ejecuta) está configurada tu instalación de PHP.