太平兴国四年( 979年)，北宋火焚水淹晋阳城。越三年，大将潘美便在原城址北40余里的唐明镇重新筑起一座城池，并将并州治所从榆次移于此。宋仁宗嘉祐四年(1059年)，设立太原府，将河东路治所置于府城内。城市迅速发展，重新成为北方的一大都会。经过金元明清，太原城不断繁荣壮大，俨然煌煌都市，今日太原就是在此基础上发展而成的。
北宋统治者之所以在毁掉晋阳城后于其附近又迅速建起一座城池，是和太原盆地所具有的重要政治、军事、经济、地理等地位分不开的。唐明镇位于太原盆地北端，夹处两山之间，汾河纵贯其中，军事地位十分重要。《宋史·地理志》载：“其地东际常山，西控党项，南尽晋绛，北控云朔，当太行之险地，有盐铁之饶……太宗平太原，虑其恃险，徙州治焉，然犹为重镇，屯精兵以控边部”。
潘美修建的太原城是在原唐明镇基础上扩筑而成。城周10里，城墙夯土砌筑。四面各设一门，东曰朝曦，西曰保德，南曰太平，北曰怀德，平面为北宽南窄的梯形结构。现太原市后小河城西水系为宋旧城西城濠，其北有东缉虎营街，东有上肖墙、柳巷，南有棉花巷，如今这里依然存活着十数株古槐树，南北成行，东西成列，长势旺盛，树龄相当。它们的存在，不仅勾探讨宋代太原府城布局提供了有力的佐证，成为宋代府城的标志性遗存，还为今天太原市区的街景增添了一抹靓丽的街景。潘美在建设太原城时，还将唐明镇改建为城中之城，号称子城，其遗址约当今解放路西半坡街一带。
到北宋天禧年间，太原府城又有一次较大规模的修建。知府陈尧佐为防阻汾水泛滥，在汾河东岸筑长堤，并引汾水在汾堤与府城间(当今西起胜利桥东至旱西关、柳溪街一带)，潴成周五里的湖泊，堤旁湖畔广植杨柳以数万计，名为“柳溪”，又在围堤之上、垂柳丛中，建造“丹霞阁”“四照亭”，在湖泊之中，建造“杖华堂” “水心亭”，并种植大片的莲花，湖面波光荡漾，四周垂柳依依，成为游览和避暑的胜地。时人沈唐在《上太原知府王君祝尚书》词里赞美当时的太原：“山川凝翠，川容如画，名都自古并州。”
金人占领太原后，废宋太原大都督府建置，新建太原河东军总管府，河东路改置为河东北路，新建置的太原府隶属河东北路。元朝又废太原府置，新置太原路。
朱元璋推翻元朝统治后，封第三子朱桐为晋王，坐镇九边重镇之首的太原，经略北边防务。明洪武九年(1376年)，水平侯谢成在宋太原城基础上扩建新城，墙以砖石，环以大濠，是为明太原城。旧志记载：城周二十四里，高三丈五尺，外包以砖，设有八门，东为宜舂(大东门)、迎晖(小东门)，南为迎泽(大南门)、承恩(新南门)，西为阜城(旱西门)、振武(水西门)，北为镇远(大北门)、拱极(小北门)。八门之外均建瓮城。城门上建有城楼，四隅建有角楼，城垣之上建有九十座小楼，其中东垣二十三座，南垣二十二座，西垣二十四座，北垣二十一座。明府城坚固壮丽，城内池沼台榭遍布，城周流水潺潺。山西按察使王元美赞道“太原城壮丽甚，二十五睥睨，辄作一楼，神京所不如也。”
明景泰元年(1450年)，山西巡抚朱鉴为防御鞑靼瓦剌部落的骚扰，在府城南门外修建了一座“周围五里，高二丈五尺”的土城，设五道城门，号“南关瓦城”。嘉靖四十四年(1565年)，山西巡抚万恭修葺太原城，又用砖包南关城并建连城，将南关城与大城连为一体。万历五年(1577年)，明廷在太原府新置太原前卫、太原左卫、太原右卫及宁化防御所等军事卫所。同时在城外建永安和永宁二堡，统称永宁二堡。
晋王府是明代太原城内的一组重要建筑群。它是晋王朱桐委托谢成于1376年前后在府城东部建起的，显赫的晋王府占据了全城1/6的地方，宫城辟有东华、西华、南华、后走四门。围绕宫城的还有外城，外城的城墙叫“萧墙”，遗址存留至今的即“南肖墙”“北肖墙”“东肖墙”“西肖墙”等街名。清顺治三年(1646年)四月十二日夜，有着270余年历史的晋王府突遭大火，“烈焰烛天，俱成五色。比日出，自内城至公门、大殿、东西斋殿、灵寿等宫尽被焚毁。飞灰蔽野，烟烬逾月始息”。宏丽的晋王府宫殿从此在太原消失了。流传下来的只有称作“东丹墀”“西丹墀”等许许多多的地名和残留数对铸造精美、体态雄状逼真的铁狮子(现收藏于纯阳宫)。太原城内还建有许多郡王府邸。如宁化王府、平阳王府、广昌王府、方山王府、临泉王府、宁河王府、河东王府。至今称“府”的街名流传下来有“宁化府”“临泉府”“方山府”“二府巷”等。这些宫城、王府、衙署，都占据了城中心最好的地段，建筑华丽，与市内的庙宇、钟楼、鼓楼、牌楼等建筑，形成了中国封建城市所特有的立体轮廓。
有清一代，太原城基本沿用了明代城池。只是在府城西南隅新建了一座满洲城。清顺治十七年(1660年)，巡抚白如梅把南关城与大城连为一体。光绪十二年(1886年)，汾河洪水冲毁满洲城，又在小五台附近另筑新城,称新满城。原来的“满洲城”叫作“旧满城”，今天的“旧城街”“新城街”街名便由此得来。
经过明清两代近600年的发展，太原府城范围北扩至现北大街、南至迎泽大街、东至建设北路、西到新建路。城市以督军府旧址为中心，鼓楼街、帽儿巷、柴市巷为东西轴线，街巷和建筑布设以府东街为南北界线。具体到城市功能可分为官府衙署区、礼制建筑区和商业作坊区等。佛教、道教、伊斯兰教等宗教建筑则散布于市区之中。其中城区范围内有崇善寺、文殊寺、普光寺、圆通寺等。
官府衙署区位于今府东街以北至北城墙一带，为府城政治中心。创建于明清两代的官衙建筑有太原府、督军府、布政司衙门、道台衙署等。
太原府位于督军府旧址西侧的府西街与解放路西北角。始建于明洪武年间，清代增修，其后改为府学，因城市建设，现仅存一座清式建筑静涵楼。布政司衙门位于督军府以东，始建于明洪武元年(1368年)，清代修葺，坐北朝南，是以大、二、三堂为主体的衙门建筑群。清代道台衙署位于开化寺南街的34号、西街的28号院。为清代一李姓道台衙门的办公之地和居住之处，始建于清道光年间。两院均为四合院，硬山顶建筑，院落整体布局保存基本完整，两院共有房屋100余间，占地约6.7亩。
礼制建筑位于以督军府旧址、帽儿巷、柴市巷为中轴线的两侧区域。中轴线东侧有文庙(孔庙)、西侧有武庙(大关帝庙)，另有兴文风的唱经楼、尚宗祖的皇庙、供祭祀的城隍庙，城中标志性建筑有钟楼、鼓楼等。
城隍庙，地处城坊街，现存山门、钟楼、鼓楼和明代的东配殿等建筑。鼓楼，位于帽儿巷与鼓楼街十字路口，清代曾两度重修，包砖台基，三层楼阁式建筑，飞檐斗拱，雕梁画栋，是明清太原城最宏伟的建筑之一。
明清太原还是全国33个大商业城市之一。商业作坊区位于钟楼街以南至后铁匠巷、起凤街之间，这里商店棋布，古人曾用“蔽天光，发地脉”形容其盛况。城内有米市街、纸巷子、铁匠巷、棉花巷、麻绳巷、刀剪巷等许多反映太原城市工商业繁华的街巷，特别是大钟寺内及东西街一带，更是“货列五都，商贾云集，踞街巷之胜”。太原府城逐渐凸显出商阜城市的特点，现存有老香村、六味斋、溢源庆、大宁堂等老字号和浙江会馆、浑源会馆等商业性建筑。它们的兴起不仅为太原府城的经济发展注入了新的活力，而且为近现代太原城的经济奠定了基础。
浙江会馆位于南肖墙关帝庙东偏院之东，民国时期建筑，面阔五间，进深二间，建筑面积135平方米，歇山顶，周围廊，廊柱间有雀替，保存基本完整。浑源会馆位于精营西边街，为民国时期建筑，平面呈八角形，尖拱形窗，有砖雕。
岁月沧桑，经过清代的几次大水冲毁和两次大火焚烧，一些重要建筑如晋王府、崇善寺等遭到毁灭性的破坏。近代以来，战争和建设发展又使太原府城城墙、城楼、民居等古建筑遭到进一步的破坏。不过太原府城道路基本沿袭明清城市道路的格局，没有大的变动，至今依然保留有部分城墙遗存，如北城墙东门拱极门(俗称小北门)、北城墙遗址、西北城角遗址，以及大量的古建筑，如崇善寺、纯阳宫、关帝庙、重耳庙、关王庙等。它们都是千年古城活的见证，是锦绣太原的最好注解。认识它们，保护它们是我们当代人义不容辞的责任。
明清太原城的官府衙署建筑当以位于太原府东街的督军府旧址为代表。据清道光《阳曲县志》载，此处原为晋文公重耳庙，北宋太平兴国七年(982年)改置为潘美的帅府衙门，官员们在此督建太原府城和办理政务。这处宗祖建筑由此而转变为官府衙署建筑，宋金元时期，它一直是军政衙门所在地。明清也均在此地设置巡抚衙门。辛亥革命后，山西军政府成立，阎锡山作为大都督在此成立都督府，此处遂更名为督军府。新中国成立后，这里为山西省政府办公地点。督军府作为历代王朝地方执政衙门，一直延用至今，千年一脉相承，可谓珍贵，而且作为近现代革命的重要遗址，最有代表意义。督军府在重耳庙的基址上修建，现存的清式和民国建筑，在尊崇我国中轴线对称建筑格局的基础上融入了一些西洋建筑元素，具有鲜明的时代烙印。中轴线建筑有木结构大门、渊谊堂、“工”字楼、梅山会议厅、梅山及西洋钟等遗存。位于督军府旧址东侧的东花园，园内建筑虽然毁坏较为严重，但仍能辨析出昔日繁盛。园子呈开放式古建筑园林布局，建筑样式富于变化：既有庄重的带围廊大殿，又有硬山、卷棚硬山、卷棚悬山前廊三勾连建筑小体；园林树种丰富，配植讲究。
关王庙，位于现校尉营街。庙坐北朝南，二进院落，现存正殿、钟鼓楼、寝宫等。后院寝宫原存元代乐伎塑像12尊，这批珍贵的元代泥塑现已转移至晋祠唐叔虞祠内保存。
崇善寺旧名白马寺，后改为延寿寺。《阳曲县志》载，原为隋炀帝行宫，唐初建白马寺，后改延寿寺、崇善寺。明晋王朱桐为纪念其母，扩建成六大殿等建筑群，占地14万平方米。明洪武十四年(1381年)，晋王朱桐将延寿寺旧址扩建成南北三百四十四步、东西一百七十六步的大庙，建大雄宝殿九间，内设帝座。后边建大悲殿七间，内塑千手千眼观世音菩萨像三尊。当年全寺规模宏大，计有81间朝王殿、72间抱厦厅。清同治三年(1864年)十月十五日午刻失火，大雄宝殿被毁，现仅存大悲殿。大悲殿坐北朝南，重檐歇山顶，通高12余米，是明初最完整、最标准的建筑，成为宫殿式建筑修建的范例，体现出当时的能工巧匠沿袭宋以来建筑传统而加以创造的建造手法。殿内佛台上塑有高8.5米的千手千眼观世音及文殊、普贤菩萨像三尊。四周经柜内藏有宋、明各代经藏3万佘卷和部分道藏经典以及明成化十九年(1483年)原寺院壁画摹本二套。明代铁狮、钟、供器、石碑10余通。崇善寺集中了价值连城的文物和资料，吸引着众多游人登门造访。
位于太原市起凤街东口的纯阳宫，俗名吕祖庙，为祭祀唐代著名道士吕洞宾而建，始建于宋、元年间，明清重、扩建，现为明清建筑。占地面积1.1万平方米，南北中轴线上有牌坊、道德门、纯阳殿、两层亭、窑洞楼、巍楼以及各院之厢房、八卦楼等，共有殿堂70余间，是一座集庙宇、园林风格为一体的五进院落，院内亭台楼阁样样皆有。门前有四柱三楼木牌坊，其造型、色彩均独具特色，惹人注目。吕祖殿是纯阳宫的主殿，位于院落中央，面阔三间，呈方形，是宫内最壮观的建筑。殿后院落的建筑格局颇为独特，据说是按八卦的方位而建，具有鲜明的道教建筑特色，也是整个纯阳宫的精华所在。整座建筑结体严谨，院中花草繁茂，置身其中，给人一种“似庙非庙，非园却似园”的感觉。
清真古寺，位于今解放路南段东侧的清真古寺，原名“清修寺”。碑文记载始建于唐贞元年间(785年-805年)，现存为元末明初建筑。寺坐西向东，三重院建筑，原有面积5000余平方米。有牌楼、大殿(礼拜殿)、讲堂(讲经堂)、水房(沐浴室)、省心楼等，以礼拜大殿为其主体建筑。
清真古寺布局以中线对称，主要建筑于中心线上左右对称，前为寺门，中为勾连搭式礼拜殿，殿顶由两座硬山和一座卷棚顶勾连搭而成。单体面积461平方米，高大宽敞，可容纳500余人作礼拜。殿前有廊，饰垂莲柱吊楣，上有额，殿内为阿拉伯式木构建筑风格，外不见木，内不见砖。圆柱、拱门，后壁以《古兰经》经文用沥粉贴金式木雕装饰。殿门饰垂莲柱吊楣，门上悬挂“开天古教”匾额。整座大殿建筑成一整体而又富于变化，这种勾连搭结构，自明代以后便普遍使用于内地回族清真寺较大的礼拜殿，成为中国内地回族清真寺的一种典型形式。它将两个坡顶平接，其间形成排水天沟，将雨水排向天沟两端。这种建筑结构，使清真寺大殿在平面布置上富有极大的灵活性。这种勾连搭式的大屋顶，是几百年来中国穆斯林工匠大师的精心杰作，在中国古建筑史上占有一重要地位。
太原文庙，位于文庙巷内，清代在原崇善寺遗址处修建，坐北朝南，中轴线建筑有琉璃团龙照壁、棂星门、大成殿等近百间，总占地面积达4万平方米，是山西省现存文庙中规模较大的一座。大关帝庙，位于庙前街，坐北朝南，二进院落，明代建筑，中轴线的建筑主要有山门、崇宁殿、春秋楼等。唱经楼，位于现鼓楼东街，建于明万历年间，为明代科举考试揭榜时唱晓“五经魁首”之地，故而得名。楼坐北朝南，二层楼阁式建筑，十字歇山顶，附属建筑有过廊、大堂和后院。皇庙位于上马街皇庙巷，是由明代朱櫚创建，清代明祚，改称“万寿宫”，其作用依旧为封建王朝服务。“万寿”指皇帝的生日，每逢国家大典，如万寿、国丧、元旦、新皇帝登基等时候，地方官员都要到此举行大典和祭祀。整个建筑占地面积约11000平方米，坐北朝南，三重院落，中轴线有照壁、宫门、前殿、中殿、后殿等建筑。皇庙是正统的皇家建筑，金碧辉煌，气势不凡，有着600年的历史，是太原城历史和其地位的佐证。
