В html контекст, <?php , <something и т.н. е отварянето на html таг. Редактирайте < с неговия html обект < за да предотвратите това...
<?php
Още по-добре използвайте htmlspecialchars:
<?php echo htmlspecialchars('<?php echo "test"; ?>'); ?>