明永乐年间，国家“北修故宫，南修武当”，在武当山建造了规模宏大的皇家庙观，而玉虚宫则是整个建筑群中最大的庙宇。明朝着名文学家王世贞为此不禁发出“玉虚仿佛秦阿房”的赞叹。
当年的玉虚宫是城内套城，共有三城，即外乐城，里乐城和紫金城。三城都各有宫墙间隔连围，形成等级鲜明，规模宏大的宫城。
相传玄武得道升天后曾被玉皇大帝嘉封为“玉虚相师”，故玉虚宫建成后，永乐皇帝钦定为“玄天玉虚宫”。明朝中叶嘉靖年间，玉虚宫又得到了大规模的扩建。自此，玉虚宫占地面积525万平方米，房屋达2200多间。放眼望去，飞金流碧，富丽辉煌，了无边际。难怪古人游玉虚宫后感慨道：此日闲游疑梦幻，身从碧落踏虚归。
玉虚宫又称老营宫，是明大修武当时总管一切的大本营，武当建筑群建成后各宫提点均为皇帝钦官至正六品以上，玉虚宫更是倍受重视。
明天启七年，即1627年，玉虚宫发生了毁灭性火灾，其轴线主要建筑均遭火劫。百年后，即清乾隆十年，玉虚宫再次遭到大火，其附属建筑一并化为灰烬。1935年夏，山洪暴发，数十万方沙泥直泄玉虚宫，大片房屋被吞没，号称南方“故宫”的玉虚宫自此成一片残垣断壁。
解放后至1987年前玉虚宫十方堂至父母殿均为当地居民占居，十方堂前至大门外铁路为当地居民的庄稼地，李诚玉道长在玉虚宫大门洞居住修练，1994年为申报世界文化遗产，将居民扦出并清理出玉虚宫大门内场地及宫殿遗址。百岁老道长李诚玉从此遗居父母殿直至2005年羽化。
