两旁山势雄奇，中间有长达三十多里的溪谷，俗称“关沟”，居庸关便横跨于关沟之上。
早在春秋战国时期，燕国就要扼控此口，时称“居庸塞”，汉朝时，居庸关城已颇具规模，南北朝时，关城建筑与长城连在了一起。
此后历唐、辽、金、元数朝，居庸峡谷都有关城之设。
元代时，居庸关是大都通往上都的重要交通大道，皇帝经常从此路过，在关内设有行宫、寺院、花园等建筑，这些建筑一直留到大明朝。
明初大将军徐达、副将军常遇春修筑居庸关城：“跨两山，周一十三里，高四丈二尺”。此后永乐和宣德两朝曾大规模扩建，到英宗御驾亲征时，英宗便是从居庸关北上，一路到大同，撤返到距离居庸关不到百里的土木堡，兵败饮恨。
明代宗继位后，景泰年间又将关城扩大加固，设水陆两道门，南北关门外都筑有瓮城，防备瓦剌人去而复返，自此后便形成自北而南由岔道城、居庸外镇、上关城、中关城、南口五道防线的居庸关防御体系。
居庸关中关城是主关口所在，隆庆卫负责镇守，隶属于后军都督府。
沈溪曾在之前运炮去西北时，路过居庸关，当时他抱着轻松的心态，毕竟那会儿鞑靼人尚