在太原命名以前，它原名晋阳。晋阳城的创建始于春秋时代。那时候，晋国的大权落到韩、赵、魏、范、知、中行六家豪门贵族手中，时称“六卿”。当晋定公十五年（公元前497年），赵简子（赵鞅）执政时，他为了巩固自己的领地和政权，命令家臣董安于在晋水之北，即今太原市南郊区古城营村一带，修筑了一座城池。该城因位于晋水的北岸，所以命名晋阳。就地理方面看，这座城池的地址选择是适宜的。它西、东、北三面环山，西倚龙山和县瓮山；东隔汾河，面对东山；相传大禹治水时拴过船索的系舟山盘踞在北面。当时，这些山上植被茂密，有利于古代采集、畜牧业的发展。山地里又蕴藏着铜、铁等丰富的矿物资源，为当时的冶炼业提供了良好条件。中部和南部是一片坦荡的大平原，汾河、晋水流贯其间，再加上周围山麓地带的潺潺泉水，对于农业的发展来说，也是极其有利的。
再就历史上看，近年以来，考古学家在晋阳古城附近的义井村、东太堡村、杨家村等地，发掘出大量石器、陶器、骨器等等。这足以证明，远在石器时代，我们的祖先就在这里定居下来，发展了原始生产，创造了古代文化。传说古帝少嗥的孙子合骀，也是受封在这一带地方的。这些史、地事实，都足以说明晋阳古城一带，在建城之前，就是一片美好的地方。赵襄子选定在这里建城，不仅在当时是适宜的，对于建城以后的成长、壮大，也起了重要作用。
董安于接受了这个筑城任务，他首先发挥了劳动人民的智慧和力量，修建了非常坚固的城郭；又在城内营建宫室。宫室的柱子是用铜铸成的，围墙是用一丈多高的木柱和苇秆修建的。此后，襄子的另一位家臣尹铎继续修筑加固，并在城内积蓄了大量粮秣。从此，晋阳城成了我国北方的一大重镇，嵫立于汾（河）晋（水）平原将近一千五百余年。在这漫长的时期内，由于统治阶级的争权夺地，它虽然受到了一些损害，但总的说来，人口在增加，生产在发展，城区面积在扩大，建筑物的质量在提高。尤其是到了唐朝，由于晋阳是它的创业基地，又是北方的防守重镇，把晋阳提升为太原府，横跨汾河东西两岸，进行了大规模扩建。在汾河西岸的称都城，又称西城。它采取了城中套城的方式，都城之内又建了大明城、宫城、仓城。据记载，这时的晋阳城长四千三百二十一步，宽两千一百二十二步，周围一万五千一百二十五步，约合现在的二十多公里。
在汾河以东，唐太宗令大将李勣领导修建了东城。在东西二城之间，女皇武则天时代，由并州刺史崔神庆主持建筑了中城，把东西二城连接起来，因此又称它为连城。这就是历史上大名鼎鼎的“太原三城”。
这三城不仅城垣高大，气势雄伟，而且人口众多，工商业发达。在铜、铁、煤等矿藏丰富的基础上，冶炼铜、铁，铸造钱币、武器、铜镜、铁镜、刀、剪等盛极一时。铜镜被列为贡品，剪刀以锋利驰名全国。“焉得并州快剪刀，剪取吴淞半江水。”诗人杜甫的这一诗句，形象的表明了太原剪刀是脍炙人口的。一此外，瓷器的制造、葡萄酒的酿造等也非常发达。在交通方面，国都长安和太原之间，沿着汾河地堑的大道，官商旅客络绎不绝。隋朝所修的驰道，东穿太行，北达天池，在这时期也成了人们往来的大道。这三条大道，几乎和今日的南北同蒲线和石太线铁路会集在太原相似，大大便利了人们的来往，以及商货、文化的交流。随着经济的发展，太原的文风兴盛，大诗人白居易、王翰等，都是太原人。总之，唐代的太原是河东道的政治、经济和文化中心，是全国著名的一大城市。当时，对于东亚诸国到大唐取经的僧侣，太原也成了他们的向往之地。一直到五代十国时期，还保留着唐代给它的光荣称号——“北都”或“北京”。
到了北宋初期，太祖赵匡胤、太宗赵光义与北汉王国争夺晋阳，先后进行了三次攻城大战，先是纵火焚烧，继而引汾、晋二水灌城。一千五百余年的晋阳城，变成了一片破砖烂瓦、充满泥泞的废墟。但为时不久，一部分聚居在唐明镇（今西羊市、大关帝庙一带）一的市民，为了安居，他们围绕镇子四周筑起了城墙。这就是太原城的肇基。此后，为了防御汾河泛滥，保护市区安全，又在汾河东岸修建了长堤，并引出一股汾水潴成湖泊。湖畔堤旁，栽种了杨柳，既能巩固长堤，又是一个水波漪涟、柳暗花明的风景区。
明朝初期，定太原为九边重镇之一以后，又从唐明镇土城向东、南、北扩展，在汾河以东，东山西麓之下，建成了一座里土外砖、周长“二十四里”，城高“三丈五尺”，留有迎泽等八个城门的太原城。城墙上建立了大小城楼百余座，城外挖修了很深的护城河。真所谓“金城汤池”，“坚逾铁瓮”，宋初的唐明城当然望尘莫及了。这显然是出于当时的防御需要建筑的。此外，还先后修建了为贵族官僚居住玩乐的一些富丽宫室和花园。其中最著名的是晋王府，其次是宁化府、临泉府、方山府、大小濮府、缉虎营、杏花岭、梅花坡等等。直到现在，有些街巷还是以此命名的。崇善寺、双塔寺、纯阳宫等寺院也是在这一时期建筑的。对城外的晋祠、天龙山的石窟等古迹名胜，也都加以整修。从外表上看，这时期的太原似乎又逐渐兴盛起来，露出了“锦绣太原城”的面貌。
太原成为宋、元、明、清和民国年间的山西政治中心，达千年之久。但近代以来，在半封建半殖民地的社会里，它的经济发展和居民生活，却远远落在前进的历史车轮后面。直到1949年中华人民共和国建立，这座两千五百多年的历史名城，才真正走上了繁荣昌盛的大道。
建国后的第一个五年计划，把太原列入第一批国家重点建设城市。三十多年来，太原市的建设有了空前的发展。据1982年年底的统计，建成区面积为一百三十六平方公里。人口为一百二十万，是山西省第一大城市。市内街道，全长四百二十九公里，其中百分之八十以上建成了高级路面。主要大街，南北干线有建设路、五一路、并州路、解放路、新建路、和平路等六条。东西干线有胜利街、府东街、双塔东街、城北街、迎泽大街等五条。由于这些街道的修成，基本上改变了旧太原“东西不通，南北不畅”，街道狭窄的落后局面。迎泽大街从新建的太原火车站往西，穿过五一广场，经过汾河上的迎泽大桥，直通西山工矿区，是一条最大的主干线。街宽七十余米，三晋大厦、迎泽宾馆、并州饭店、晋阳饭店、红旗剧场、五一百货大楼、博物馆、文化宫、湖滨会堂、迎泽公园、邮电大楼、广播电视大楼、科技大楼、工艺美术大楼、科技馆等分列两旁。这些各具姿态的新型建筑，含有古今意义的命名，显得格外雍容多姿，古雅大方，而又具有蓬蓬勃勃的时代精神。
汾河从北向南流经市区中部，把太原划分为东西两部分。东部人口众多，商店密集，省、市行政机关和学校等，大都集中在汾河以东。西部主要是化工和煤矿区，但农业也相当发达，这是因为西山和汾水之间，北起兰村，南达晋祠，有一带宽广的平原。远在春秋时代，这里的劳动人民就修建了灌溉工程，引出汾水、晋水和山麓泉水浇灌田地，使地处干旱、半干旱的黄土地区，出现了波光人影，渠流纵横的产稻区。东西之间的交通往来，除上面所说的迎泽大桥外，还有横跨河上的胜利桥、铁路桥和深居河下的一座大隧道。这些新型建筑，大大解决了旧太原时代东西部之间往来困难的问题。
太原市的对外交通，建国以来也有了很大的发展。石太、南北同蒲等铁路修建时，阎锡山为了建立山西独立王国，都修的是窄轨，大大限制了它们的运输效能。建国后，迅速改成标准轨距，同省外铁路相通，成为全国铁路网的一部分。为了适应工、商、旅游事业的日益发展，新修了太原火车站，并逐渐完成了石太线和北同蒲线的电气化工程，使客货运量成倍增长。太原的民用航空事业从无到有，开辟了多条航线，可以直飞北京、西安、兰州、西宁、成都、重庆、延安和长治等地。公路交通，有直通河南、河北、内蒙古、陕西和省内各地的公路线。
建国以来，太原市进行了大规模的工业建设，已建成北郊、城北、河西北部、河西中部、河西南部、东山、西山、城南、北营等九个工业区。据1982年年底统计，全市共有工矿企业一千三百零六个，工业职工四十七万余人，工业总产值达四十一亿多元，为建国前的九十八倍。在工业中，有号称“十里钢城”的太原钢铁联合企业，有年产一千万吨煤的西山煤矿，有国内较大的重型机器厂和化工企业。今天的太原，已经成为华北地区的一座以冶金、机械、煤炭、化工为主的最大的重工业城市。就本省说，它是建设全省煤炭化工基地的中心城市，工业产值占全省的三分之一左右。随着工业发展的需要，全市现有四十多个科研单位，十余所高等院校，三十多所中等专业学校和一百几十所普通中学，有众多的科技专家、教授、学者和数以万计的莘莘学子为社会主义祖国工业的更加“高精大”，而孜孜不倦地工作和学习。
太原的古迹名胜相当多，著名的有：
太原的标志——双塔，原名宣文塔，是明万历三十六年（1608年）前后，佛灯和尚拟建的永祚寺的一部分。两塔形制相似，八角十三层，高达五十多米。每当立夏前后，这里的牡丹盛开，引来了不少观赏者。建国以后，在这里建成了革命烈士陵园，供人们瞻仰凭吊。
太原市最早的历史文物建筑——晋祠，位于西南郊外二十五公里的悬瓮山下。据文献记载，西周成王十年（公元前1106年），他用桐树叶子和他的弟弟叔虞开玩笑，竟封了叔虞为唐侯。这就是“桐叶封弟”的历史故事。叔虞的儿子燮继位后，见到唐国境内有一条晋水，水源来自悬瓮山下的泉水，水量既丰富，冬季又不枯，对于生产和生活来说，是一条好河流，因而他把国号改为晋。此后，晋国成了春秋时代的一大富强诸侯。后人为了纪念叔虞，便在晋水的源头修建了一座祠堂，名为晋祠。至于晋祠创建的年代已不可考。根据北魏郦道元著《水经注》的记述看，在北魏以前就有了这一建筑。北齐文宣帝高洋时将晋阳定为别都，在晋祠大动土木，开凿池沼，建造亭台楼阁。到了北宋天圣年间（1023—1032年），又依山傍水修建了祭祀叔虞母亲邑姜的祠堂，即现存的圣母殿。宋崇宁元年（1102年）重修，到现在已八百多年了。这座殿南北宽七间，东西深六间，比叔虞祠大，是全祠的主殿。殿内塑有邑姜的像和四十多尊宫娥、侍女的塑像，大小如同真人，各具姿态，栩栩如生。圣母殿的一旁，是清水涌出的难老泉。它是晋水的源头，流水淙淙，清澈见底。圣母殿前筑有方形鱼沼，是晋水的第二源泉。沼中立着三十四根小巧的八角形石柱，柱顶架斗拱、梁木以承托十字形桥面。整个造型如展翅欲飞的大鸟，因而有“鱼沼飞梁”的命名。在北魏时期成书的《水经注》中，就有“结飞梁于水上”的记述，可见这一别出心裁的艺术建筑，在北魏以前就修建了。此外，晋祠内还有叔虞祠、献殿、胜瀛楼、白鹤亭、文昌宫、金人台和唐太宗写的《晋祠铭》碑亭等。祠院内外，大树参天，尤以周柏、隋槐著名。这两棵古树与长流不息的难老泉，精美的侍女像，被誉为“晋祠三绝”。
太原城内的崇善寺，原名白马寺，后改为延寿寺。明朝初期加以扩建，前有大雄宝殿九间，后有大悲殿七间。此外还有山门、金刚、天王等殿和经阁、法堂等，规模很大。清朝同治年间失火，大雄宝殿等尽化灰烬，仅留一座大悲殿。到了光绪年间，在这片废墟上建造了文庙。现在山西博物馆（一部）就设在文庙内。寺内的大悲殿是现存最完整、最标准的明代建筑杰作。殿内中央有一座千手千眼观世音菩萨大型塑像，造型奇特，引人注目。殿内还藏有宋版碛砂圣经、元版圣经、明版北藏经、南藏经等，都是名贵的文物。
道观纯阳宫，在五一广场西边，是明代万历年间为纪念唐代道士吕洞宾而建的。宫内有八卦楼、降笔楼和亭、台等建筑物。亭、台、楼、阁之间，有长廊互相通连，结构甚为巧妙。现为山西省博物馆二部所在地。馆内陈列着由仰韶文化时期，到元、明、清各个朝代的文物，共两千多件。它将中华民族发祥地区之一——山西这块地方的文物荟萃一馆，供游人观赏和学者研究。
太原市西南郊的天龙山、龙山和蒙山，有南北朝以来各朝代的石工巧匠们精心雕凿的石窟。其内容大部分是佛教的，也有一小部分是道教的。这些石窟雕像表现了人民的石雕艺术，反映了各朝代石窟艺术的特点，是一宗很重要的文化艺术遗产。
