从唐代中叶一直到五代初期，大同称为云中县，为云州治。公元936年11月，后晋石敬瑭为了取得契丹的支持，保住自己的帝位，将燕云十六州（今河北、山西北部地区）割让给了契丹。从此，大同被划归辽地。辽重熙十三年（1044年），云州升为西京大同府，自此大同成为辽代五京之一，历时81年。金灭辽之后，大同仍为金西京，凡120年。辽、金时期，大同以辽金之陪都再度兴盛于北方，成为中原与北方民族交往的中转站。据史书记载和考古推断，辽西京大同府是在北魏平城旧址的基础上修建起来的，其南垣在今善化寺北部，北垣在明清大同城的北关一带，西垣约位于明清古城的西门之外。全城周长10公里，城墙上建有许多敌楼和箭楼，守御设施齐全。每面城墙各辟城门一座，东曰迎春门，南曰朝阳门，西曰定西门，北曰拱极门。城内，一条条齐整的十字街将居民区划成若干个坊。现在的华严寺所在地，当时叫做舍利坊。城的北半部是政治和军事中心，官衙和军营多建于此，全国最高学府之一——西京国子监则坐落于府治东南方。其中，西京留守兼大同府尹是全城最高的地方行政长官，其衙署在拱极门之西。与府衙遥相对应的大同驿，建于拱极门之东。此外，由于边防官大多住在西京，因此西京城内还有许多边防官的府邸，如西南巡察司、山北路都部署司等。这一座座富丽堂皇、金碧辉煌的官衙府邸，使西京城显得格外壮观。

辽西京也是全国人才荟萃地之一。辽圣宗时期，宰相张俭就是从西京大同起家的。张俭为相20余年，辅佐两朝，甚有政绩。重熙五年(1036年)，他劝兴宗亲临贡院会试进士，选拔贤才，此后皇帝亲临贡院会试成为辽的一项重要制度，对辽统治者改变单纯的尚武风气，注意文治，加速契丹族政权的封建化，都起到了重要作用。辽著名大将耶律斜轸也曾驻镇大同，指挥调动诸军。

由于大同的战略地位重要，辽统治者对西京大同特别重视，“非亲王不得主之”，“大抵西京，多边防官”。此外，辽历代皇帝共巡幸、狩猎大同十余次。其中，辽景宗耶律贤于乾亨四年(982年)秋八、九月两次巡幸大同，病死于焦山(今左云县东北)。

天祚帝保大二年(1122年)，大同为金兵攻陷。保大四年（1124年），天祚帝在应州新城东60里处被俘，辽自此灭亡。但金统治者知道大同在政治、军事上都十分重要，仍以大同为西京，并和辽一样以亲王镇守之，而且派驻西京的官员一般都是良将能吏。例如大兴府宋人丁炜仁，任西京留守时“首兴学校”，是金朝在大同发展文化教育事业的第一人。

金时，大同城的规模和布局与辽时大体相同，只是在金大定五年(1165年)将城之东、西、南门分别易名为宣仁门、阜城门、奉天门，另在城内营建了保安殿、御容殿、西京宫苑等。当时大同还建有金太祖庙，公元1166年春三月，金世宗曾到西京拜谒祖庙。

此外，因辽、金历代皇帝大都崇尚佛教，于是在大同又一次掀起了一个大规模兴建佛寺的高潮。华严寺、善化寺、观音堂、禅房寺等一座座宏伟壮观的寺院建筑，一时都兴建、扩建、整修起来，为西京大同增添了绚丽的色彩。