天山庙坐落在哈密东天山之巅，原名“天山关帝庙”，海拔近3000米，衔天山之雄奇，望古道之艰险，睹丝路之繁华，观千年之沧桑。
天山庙始建于唐代贞观十四年，是丝绸之路新北道繁华时期，由信奉道教的商人们集资修建，他们供奉关羽为保护神，称为“老爷庙”。
汉唐时期的哈密东天山又叫“白山”、“折罗漫山”、“析罗漫山”，是匈奴人的图腾。
据资料记载：此庙旁原有一小屋，屋内藏有汉唐石碑以及清代碑刻多块，着名的唐代“姜行本碑”就是其中之一。着名地理学家徐松曾题楹联，其上联曰：“赫濯震天山，通万里车书，何处是归营岳垒？”下联是“阴灵森秘殿，饱千秋冰雪，此中有汉石唐碑。”可以说，这是此庙历史地位及其特色的写照。
北宋时期，醉心道教的宋徽宗再次封关羽为帝，路经哈密东天山的商旅和常年生活在山脚的百姓重修老爷庙，并尊称此庙为“关帝庙”，常到天山庙敬供香火，希冀关羽保佑平安，希望上苍降福人间，因而香火在唐宋几百年间常盛不衰，成为丝绸之路上一个著名的道教圣地。
天山庙是东天山的人文象征。所谓：惟有天在上，更无山与齐。扼东天山南北要冲，地势险要，是哈密进入巴里坤到草原丝绸之路的咽喉要道，据守在此，可谓一夫当关万夫莫开，是历代兵家必驻之地，也是联系哈密和巴里坤的交通险塞。
