西汉初，置居庸县（治在今延庆城区），属上谷郡。王莽夺取皇位，居庸县属之。东汉光武帝，平定天下复朔调郡为上谷郡。居庸县属幽州上谷郡。

三国魏，上谷郡治从沮阳县（河北怀来县大古城北7里）徙至居庸县。

五族乱晋，居庸县先后为代王拓跋郁律、辽西公段辽、赵王石虎、前燕王慕容儁、前秦苻坚、后燕慕容垂所据。

后魏皇始元年（396），居庸县迁治今延庆城东北30里旧县。孝文帝太和十一年（487），分恒州东部、幽州北部置燕州（北京昌平区东南沙河镇辛力庄），居庸县属燕州上谷郡。东魏天平中（534～537），置东燕州，（寄治军都城），居庸县属东燕州上谷郡。

北齐末，居庸县遭受突厥多次摧残，无复人迹。到北齐灭亡之公元577年，居庸县已不存在了。