拓跋珪于公元398年自盛乐迁都平城，改号皇帝，改元天兴。而在鲜卑拓跋部发展壮大、向中原地区扩展并建立北魏政权的同时，活动于大漠南北的柔然族也逐渐强大起来，经常南进“犯塞”，攻扰北魏统治地区。公元423年，魏明元帝决定采用秦汉时防御匈奴的办法，在其北边筑长城。据《魏书·太宗本纪》载，“泰常八年（423年）正月丙辰，蠕蠕（柔然）犯塞。二月戊辰，筑长城于长川以南。起自赤城，西至五原，延袤二千余里，备设戍卫”。

公元429年，太武帝于平城以北、阴山以南，自西而东设置沃野(今内蒙古五原县北)、怀朔(今内蒙古固阳县西南)、抚冥(今内蒙古四子王旗东南土城子)、武川（今武川县西土城）、柔玄(今内蒙古兴和县台基庙东北)、怀荒(今河北张北县)6个军事重镇，用以拱卫京都，组成北部又一道军事防线。

北魏又一次大规模修筑长城是太平真君七年（446年）。据《魏书·世祖本纪》载，“太平真君七年六月丙戌，发司、幽、定、冀四州十万人，筑畿上塞围，起上谷，西至河，广袤皆千里”。

那么，何为畿上塞围？据市地方志编审姚斌介绍，“塞”指长城，“塞围”指以塞围起来，“畿上塞围”意思是在平城京畿范围内修建的长城，用以保卫京城。

由于史书上并未介绍“畿上塞围”的具体位置，只是用寥寥数字介绍其“起上谷，西至河”。因此，对它的解释也就出现了多个版本。有专家认为畿上塞围与今大同南内长城重合，因为《魏书》中有“发司、幽、定、冀四州十万人”筑城之语，而内长城走向恰与“幽、定、司”有关，故而将“幽、定、司”断为畿上塞围过经之地，即从现在的北京居庸关，向南至灵丘，再向西经平型关、偏关而达山西河曲县，环绕平城西、南两面，拱卫京师，预防南方反叛者的攻击。

但另有许多学者认为畿上塞围是太武帝为京畿修筑的北防柔然的军事设施，所以塞围应在京都之北而不应在其南。而且，按中国人的方位表述习惯，上为北，下为南。畿上，应在“畿”即平城京畿之北。再一个，不能以民伕征集地来判断塞围走向。所以，这道塞围走向应与外长城大致相同。