公元 581年隋朝建立。由于当时突厥称雄北方，为了抵御少数民族的侵扰，晋阳城成为北方军事重镇。隋文帝封他的次子杨广为晋王，驻守晋阳。公元 605年，杨广即位，史称隋炀帝。他把晋阳作为他的“龙兴”之地，在北齐晋阳宫外，又筑起了高13公尺，周围 3.5公里的城墙，叫做新城，在城边修筑了高13公尺，周围 4公里的“仓城”，并且又修建了一座晋阳宫。由于隋炀帝荒无道，大兴土木，爆发了各地农民大起义。公元 617年，太原留守李渊及其子李世民，从晋阳起兵，攻入长安，夺取了隋朝政权，于 618年建立了唐朝。由于李唐王朝对他们起兵夺取天下的发祥地十分重视，对晋阳城不断扩建，原来的晋阳城主要在汾河西岸，称为“都城”或“西城”，城中有大明城、晋阳宫和仓城，唐太宗李世民又派李绩在汾河东岸筑起了东城。武则天在位时，并州刺史崔神庆又在东城、西城之间修建起了中城，正好跨在汾河之上。当时的都城与东、中城相连，称为太原三城。规模宏伟的晋阳——太原之城，成为唐朝的北方屏障。因为东城内井水苦涩难饮，还修筑了从西城把晋水架过汾河引到东城的引水工程，叫晋渠。其后，河东节度使马燧又修建了想东城引晋水工程，还潴成隍塘蓄水，又把汾水分出许多小流环城流绕，两旁都载上杨柳，进一步绿化、美化了城市。与此同时，还在晋阳修筑了许多厅、堂、寺庙，这些建筑围绕晋阳宫、大明宫、坐落在清水绿树之间，使晋阳城更为堂皇清雅。唐代宏伟的晋阳三城，共有24道城门，晋水擦西城而过，汾河穿中城南流，晋渠穿西城、过中城，跨汾河达东城，使之流水哗哗，杨柳飘絮，楼台相望，宫阙巍峨，蔚为壮观。当时的晋阳交通四通八达，经济富庶，手工业、商业十分发达，是全国铸造货币的中心。铁制武器日臻完美，并州剪刀锋利无比，铁镜、铜镜、盛誉全国。此外，晋阳硝石、葡萄酒都是当时的贡品。唐代的晋阳不仅城市繁华，而且文化荟萃，人才辈出。诗人白居易、文学家王翰、工部尚书乔琳、宰相狄仁杰都是太原出生的唐代名人。诗人礼李白、杜甫也都来过晋阳。李白还留下了“晋祠流水如碧玉，百尺清潭泻翠娥”，杜甫也曾写下“安得并州快剪刀，剪取吴凇半江水”的美丽诗句。

公元 690年（唐代武则天天授元年）定太原为北都，742年（唐玄宗天宝元年）以北都为北京，与首都长安以及南京（成都府）、西京（凤翔府）、东京（河南府）合称五京。据记载，当时的太原府“领县十三，户十二万八千九百五，口七十七万八千二百七十八”，太原进入了历史上的鼎盛时期。

由于晋阳城城池坚固，唐以后的五代，这里几度被一些野心军阀作为割据称雄的堡垒，称王称霸，自立为帝。从公元 907年到 979年七十多年间，太原经历了后唐、后晋、后汉、北汉等几个王朝，你争我夺，轮番占领，使晋阳古城惨遭摧残，太原人民苦不堪言。最惨痛的是公元 979年（宋太平兴过四年）宋太宗赵光义经19年“三下河东”，终于平灭北汉，下令焚毁晋阳，次年又引晋水、汾水倒灌晋阳废墟，毁城灭迹，使这座经营近1500年的名城，随着五代的结束而彻底毁灭。