公元 523年，高欢（又名贺六浑）掌握了北魏实权，他依据晋阳地形险要，城池坚固的优势，建立了大丞相府，有力地控制了北魏实权，称晋阳为“霸府”。公元 550年高欢的儿子高洋夺取了东魏政权，自立为帝，历史上称北齐，都城虽然设在邺（今河北临漳县），但仍以晋阳为基地，亦称为“别都”。由于高氏父子对晋阳有感情，十分重视对晋阳的修建。
公元 545年，高欢在晋阳修了晋阳宫；576年后主高纬修建了大明殿；577年幼主高恒修建了晋阳十二院，其壮观程度超过了邺城的皇宫。北齐统治为了游览还在晋祠修筑了读书台、望川亭、鱼沼、飞梁及“善利”、“难老”两个泉亭。与此同时，还在晋阳西山的天龙山和龙山修建了天龙寺、童子寺和法华寺，依山凿窟，雕刻石佛。
这就是保存至今的天龙山石窟艺术的最早开凿。这个时期，太原市的农业、商业也得到恢复发展。晋阳城内商业兴盛、市面繁荣，成了北齐的主要商埠。公元 581年隋朝建立。由于当时突厥称雄北方，为了抵御少数民族的侵扰，晋阳城成为北方军事重镇。隋文帝封他的次子杨广为晋王，驻守晋阳。公元 605年，杨广即位，他把晋阳作为他的“龙兴”之地，在北齐晋阳宫外，又筑起了高13米，周围 3.5公里的城墙，叫做新城，在城边修筑了高13米，周围 4公里的“仓城”，并且又修建了一座晋阳宫。
由于隋炀帝荒无道，大兴土木，各地均爆发了农民起义。公元 617年，太原留守李渊及其子李世民，从晋阳起兵，攻入长安，夺取了隋朝政权，于 618年建立了唐朝。由于李唐王朝对他们起兵夺取天下的发祥地十分重视，对晋阳城不断扩建，原来的晋阳城主要在汾河西岸，称为“都城”或“西城”，城中有大明城、晋阳宫和仓城，唐太宗李世民又派李绩在汾河东岸筑起了东城。
武则天在位时，并州刺史崔神庆又在东城、西城之间修建起了中城，正好跨在汾河之上。当时的都城与东、中城相连，称为太原三城。规模宏伟的晋阳——太原之城，成为唐朝的北方屏障。因为东城内井水苦涩难饮，还修筑了从西城把晋水架过汾河引到东城的引水工程，叫晋渠。其后，河东节度使马燧又修建了想东城引晋水工程，还潴成隍塘蓄水，又把汾水分出许多小流环城流绕，两旁都载上杨柳，进一步绿化、美化了城市。
与此同时，还在晋阳修筑了许多厅、堂、寺庙，这些建筑围绕晋阳宫、大明宫、坐落在清水绿树之间，使晋阳城更为堂皇清雅。唐代宏伟的晋阳三城，共有24道城门，晋水擦西城而过，汾河穿中城南流，晋渠穿西城、过中城，跨汾河达东城，使之流水哗哗，杨柳飘絮，楼台相望，宫阙巍峨，蔚为壮观。当时的晋阳交通四通八达，经济富庶，手工业、商业十分发达，是全国铸造货币的中心。
铁制武器日臻完美，并州剪刀锋利无比，铁镜、铜镜、盛誉全国。此外，晋阳硝石、葡萄酒都是当时的贡品。唐代的晋阳不仅城市繁华，而且文化荟萃，人才辈出。诗人白居易、文学家王翰、工部尚书乔琳、宰相狄仁杰都是太原出生的唐代名人。诗人礼李白、杜甫也都来过晋阳。李白还留下了“晋祠流水如碧玉，百尺清潭泻翠娥”，杜甫也曾写下“安得并州快剪刀，剪取吴凇半江水”的美丽诗句。
公元 690年（唐代武则天天授元年）定太原为北都，742年（唐玄宗天宝元年）以北都为北京，与首都长安以及南京（成都府）、西京（凤翔府）、东京（河南府）合称五京。据记载，当时的太原府“领县十三，户十二万八千九百五，口七十七万八千二百七十八”，太原第二次进入了鼎盛时期。由于晋阳城城池坚固，唐以后的五代，这里几度被一些野心军阀作为割据称雄的堡垒，称王称霸，自立为帝。
从公元 907年到 979年七十多年间，太原经历了后唐、后晋、后汉、北汉等几个王朝，晋阳古城惨遭摧残，太原人民苦不堪言。最惨痛的是公元 979年（宋太平兴过四年）宋太宗赵光义经19年“三下河东”，终于平灭北汉，下令焚毁晋阳，次年又引晋水、汾水倒灌晋阳废墟，毁城灭迹，使这座经营近1500年的名城，随着五代的结束而彻底毁灭。
三、宋元时期，大约为公元 982年至1126年赵光义毁灭晋阳城后，为了炫耀他平北汉，毁晋阳的功绩，把他指挥作战是驻扎过的崇圣寺改为统平寺（在今后林），修筑了平晋城，但晋阳人民都不敢去那里居住。许多无家可归的老百姓，流离失所，逃到唐明镇和三交村落户，唐明镇当时是一条仅有一条街的小村庄，在现西羊市大关帝庙附近，三交村在太原城北古城村。
