刘芳亮率领的十万人马，作为进攻北京的一支偏师，渡过黄河以后，就同主力分路向晋南前进，一面追赶高见，一面占领晋南各府、州、县。遵照李自成的命令，从晋南向东，越过太行山，进人河南省的怀庆地方，然后由安阳向北，威胁畿辅。李过率领的先锋骑兵，则沿着从平阳去太原的大道继续前进。
当是时，明朝在山西境内的兵力，十分空虚。
巡抚蔡茂德直接指挥的府标营，大约只有三千人。他原来驻在平阳，可是山西省从河曲城开始，就与陕西相临，只隔着一道黄河，上下一千余里，到冬天全都结冰，随时可以渡过，更不是少数兵力可以防守的。蔡茂德奉崇祯皇帝严旨，不能不布置守河。可是他手中无兵无饷，毫无办法。正准备战死在平阳的时候，晋王却催他赶快回太原，全力保护省城。
因为当时不仅是平阳以西黄河危急，而且在河曲附近，也哄传大顺军渡河，那就是说，李自成的人马不仅要从平阳进军，还要从北边走偏关过来，从北边包围太原。所以太原城中，从晋王宗室到达官富绅，都十分害怕，紧催巡抚蔡茂德回去守城。蔡茂德知道，倘若太原失守，他就更不好向皇上谢罪了。所以当大顺军从韩城一带有小部队渡河的时候，他就带着二千标兵匆匆返回太原，而将守黄河的重任，交给了原来驻防在平阳一带的副总兵陈尚智。十二月十八日，大顺军一部分人马从禹门口和韩城之间的沙涡镇过河，陈尚智逃回平阳，又逃到赵城，投降了。太原以南再也没有明朝的军队了。
山西各地百姓从李自成到西安以后，就哄传着李自成如何仁义，人马纪律如何严明，纷纷等待李自成大军一到就要迎降。果然大顺军渡河以后，各地土民不但亲眼看到了李自成的纪律确实很好，而且读到了提营首总将军刘宗敏的布告。所以从十二月二十二日起，就出现了到处迎降的形势。平阳知府张璘然投降了，受到了重用。平阳的大乡绅申家严逃到山中，被家奴们捉到，献给大顺军。刘宗敏因他为富不仁，民愤很大，下令严加拷打，逼他将家中的金银、财宝、粮食全都交出，然后处死。这件事使平阳府的百姓们人心大快。
李自成在到处迎降的情况下进入山西，他的前边有两三千威武的骑兵，然后是一队骑兵打着各种形式的旗帜和仪仗，还有一班乐队在马上奏乐。大顺朝的内阁、六政府、文谕院等衙门的主管大臣，各带奴仆、衙役、骑兵，跟随在后，然后又是二千骑兵。另外还有五百弓弩手，二百火器手。这五六千骑兵，是大顺皇帝的护卫亲军，盔甲整齐，旗帜鲜明，马匹精壮。再后是五百匹骡子和一百匹骆驼，驮运食物和粮草。起义十五年来，李自成第一次以帝王的派头，率领大军出征。他自己和跟随在他身边的文臣武将，在离开长安前，已经料到会一路迎降。如今果然如此，所以尽管距离北京的路程尚远，但是人人都认为胜利已在眼前。几年前，宋献策所献的谶记，上边说“十八子主神器”，又诗句中有“李继朱”三个字。如今看来大势已定，这谶记完全应验了。那帮在长安新投降或沿路上新投降的文臣们，也都庆幸自己早识天命，变成了从龙之臣。
东征大军只顾向前，各地方一般都不留兵驻守。新委派的地方官吏，遵照李自成的严令，搜捕明朝的宗室和各府、州、县的乡宦、富民，以及乡宦的亲属。只要是平日鱼肉地方，积有民愤的人，一概捉拿，严刑拷打，强迫他们献出金银，充作军饷；没收他们的存粮，部分充作军饷，部分散给饥民。凡是已经投降的府、州、县，都迅速委派了大顺朝的县令。当时关中多年战乱，加上天灾不断，既要供应东征大军，还要供应西征西宁和驻守榆林。宁夏等地的人马，所以东征军进入山西以后，搜捕明朝宗室和地方乡宦、大户，严刑拷打，逼迫他们献出金银财宝和粮食，既是为国为民除害，又为了解决大军给养和朝廷开支。新委派的各府、州、县官吏，都把这件事做惜口向民间搜索骡马，当做军饷，并不奇怪。可是山西省也是灾荒不断，生产破坏，城乡凋敝。李自成只考虑如何供应东征大军，长驱入燕，赶快攻破北京。至于如何使新委派的官吏采取一些有效的办法，使百姓能够过安定的日子，休养生息，就来不及考虑了。
李自成到平阳的时候，刘宗敏早已先行抵达，率领在平阳的文武群臣和新投降的地方官绅，在郊外恭迎“圣驾”。从城门到行宫，沿大街两边，家家门口摆着香案，士民们或躲入门内，或跪在香案旁边迎驾，没有人敢在街上走动，或互相小声谈话。街道上只有雄壮的马蹄声，走向知府衙门，那里是为皇帝布置的临时行宫。行宫的大门外，用松柏枝和彩绸，搭成东西相对的两座高大牌坊，每一座牌坊上悬挂一个黄缎楷书匾额，左边的匾额上写着“功迈汤武”，右边的写着“德比尧舜”。每一座牌坊上还悬着一副楷书对联，虽然不过是歌功颂德的话，但是这两副对联都编得对仗工整、气派雄浑，字体端庄、圆润，显然是出自大顺军中有学问和善书法的文臣之手。
李自成在平阳停留五大，召见父老，访问疾苦，赈济饥民。刘芳亮的偏师已经过了泽州，即将进入河南。这一支偏师又分出一支人马，从太行以西向北进军，目的是召降晋东州县，然后与取道彰德北进的部队在保定以南会师。李自成因各路进军无阻，在平阳欢宴随征群臣，并让文臣们在席上限韵赋诗。这些诗正如历来的应制诗一样，无非是歌功颂德之作，缺少诗情，只一味追求形式上的典雅、华丽，以及平厌谐凋、音节铿锵。
李岩自从参加义军之后，很少作诗，这时也不得不追随牛金星等人之后，吟成七律一首。
李自成看了群臣歌功颂德的诗篇，心中十分欢喜，觉得这才是开国气象。他向几位文臣问道：
“唐诗里有一句‘三晋云山皆北向’，读起来很有气派，却不知作何解释？”新投降的平阳知府张璘然是进士出身，此时赶忙跪下回答说：
“这是唐开元年间崔曙的一句诗。从三晋地势来说，虽然多山，但是愈往北地势愈高，到了恒、代一带皆为北岳，好似全晋群山连绵，都是朝向北岳。这是通常的解说。然而以微臣看来，诗人原来并无深意，只是泛泛地写景而已，却不料正与今日情势暗合。”李自成忙问：“如何暗合？”张璘然接着说：“圣驾自蒲州渡河，一路北来，如今在平阳驻跸，两三天后将继续北上，直捣大同，方转向东面，攻取北京；三晋父老纷纷相迎，面北叩头，注目云天，等候陛下在北京登极。所谓‘三晋云山皆北向’者，不期然而与今日人事相合。”李自成点头笑着说：“解得好，解得是。”刘宗敏因为要亲自指挥攻太原，不使晋王逃走，所以在李自成到平阳后的第三天，就动身到太原去了。李自成在平阳停留了五天之后，分派了各地方府、州、县官，经洪洞、赵城、霍州、灵石、汾州，于二月初六日上午到达太原城外。这时大顺军已经在前一天将太原包围了。
在大顺军来到之前，山西巡抚蔡茂德已经因为不守黄河回到省城，使晋西和晋南各州县不战失陷，受到山西巡按御使汪宗友的严厉弹劾。崇祯皇帝下旨切责，将他撤职，等候问罪；同时命一位叫做郭景昌的官僚，前来接任。正月二十三日，即李自成到达平阳的这一天，蔡茂德在太原召集文武大员，还有阳曲知县和地方官吏以及士民中较有头脸的人物，共约二百多人，到巡抚衙门后堂，面对太祖朱洪武，以及明室列祖列宗的牌位发誓，决心死保太原。因为形势十分危急，蔡茂德慷慨陈词，不觉痛哭，众人跟着也哭。会议尚未开完，忽然圣旨到，宣布将他撤职，听候勘问。
蔡茂德的亲信幕僚们都知道太原必不可守，同时对朝廷的处置也心中不满，所以劝蔡茂德趁此机会撒手不管，赶快躲出城外，等候新巡抚前来接任。蔡茂德坚决拒绝，说道：
“我已经决定以一死上报君恩，即令郭景昌来到，接了巡抚大印，我也陪着他死在城中。”刘宗敏二月初五日到达太原城外，初六日上午立马高处，指挥攻城。防守南关的二千阳和兵，几乎没有抵抗，就竖起白旗投降了。大顺军没有继续攻城，等待城中守军投降，以期不战而克太原。到了初七日，天气很阴暗，守城的人心已经瓦解，眼看就会有变，蔡茂德赶快写好遗表，随即调守新南门的将领张雄防守南门。张雄离开新南门时，悄悄地对他的一个心腹小将说道：
“这东南城角的角楼里边藏的是火药、火器。如今大势已经完了，我一下城，你们就放火烧着这个角楼。大家投降了李王，找一条活路吧。”黄昏时候，大风起来，飞沙走石，有的大树都被刮断了；张雄带着少数亲信，在昏暗的黑夜中缒下城去，向大顺军投降了。少顷，东南角楼起火，守城的人们在大火中各自逃散，守南门的兵士开了南门出降。大顺军一部分靠云梯顺利地登城，一部分从打开的南门和新南门涌进城内，其他的门也都被打开了。大顺军没有经过战斗，顺利地破了太原。
蔡茂德当时正好在西门附近，看见南门已破，慌乱中向北磕头，将遗表交给他的一个朋友贾上璋，请他逃出太原，将遗表送往北京。蔡茂德叹息说：
“我学道多年，早已看破了生死。如今是我为国捐躯的时候了。”他正要自刎，被左右人拦住，中军副总兵应时盛催他火速下城：“请大人上马！”左右人将他扶上马鞍，应时盛在前开路，到了灯市口，到处是大顺军，不能前进。应时盛叫道：
“快出西门！”蔡茂德忽然下马，对左右说道：“我应当死于此，诸君自己去吧！”大家不忍将他丢下，又将他推扶上马。到了水西门，他知道万难走出；同时看出来有人想把他拉去投降。他怒目斥责：“你们是想陷我于不忠吗？”突然滚下马来，坐在地上，不肯动了。
应时盛的家住在水西门外。他一路砍杀回到家中，杀了妻子，回头来不见了巡抚，又杀回水西门内，看见蔡茂德左右的人都逃光了。他对蔡茂德说：
“大人，出不去了，让我同大人一起为朝廷尽忠而死吧！”蔡茂德颤声说道：“三立书院，三立书院，快扶我到三立书院。”蔡茂德既是王守仁学说的信徒，又是虔诚的佛教徒，不食荤腥，人们常称他“苦行头陀”，其实他是一个十足的迂夫子。他重视讲学，曾重新修建三立书院，所以这时想起来选择这个地方自尽。他们在混乱中转了两条小街，来到三立书院。大门敞开，看门的人逃走了。蔡茂德到了平日讲学的地方，由应时盛帮他在梁上自缢。应时盛看见他的身体过于清瘦，上吊时身体飘荡，担心他不能立刻断气，徒然受罪，便脱掉自己的铁甲，压在他的两肩上，然后应时盛也自缢了。
因为太原城是开门投降，所以大顺军进城后没有枉杀人，也不许随意进入民宅，不许放火、抢劫和奸淫。但是，因为城中妇女并不知道李自成的军纪是什么样，所以当城破之时，还是有不少的人投井、悬梁而死。
李自成和刘宗敏有了破洛阳、襄阳和西安的三次经验，都能够事前做好准备，使大军入城时纪律严明。尤其这一次是建立大顺国以后第一次出师，第一次攻破省会，并且又处在大顺国的全盛时期，人人都一心想着建国创业，所以对军纪特别重视。
当天夜间，大顺军只有李过和李岩率领的几千人马进城，占领了重要的衙门和全部八座城门，对于晋王府和晋宗室各郡王府以及乡官巨绅的住宅，夜间指派兵士看守，不许乱兵和坏人进去，也不许府中有人进出。李岩因为是奉旨破城后向饥民放赈，所以他的人马大部分开赴晋祠驻扎，他自己只率领了一千人马，随李过进城。整个进入城中的大顺军人马，不到一万人。余者都驻扎在郊外。因为李双喜查抄福王府时有了经验，李自成、刘宗敏都很满意，所以他奉命于黎明时候率领五百将士和几十个能写能算的文职人员进城，查抄晋王府和在城内的晋王宗室，以及各个巨绅豪富之家。
从是夜起就有骑兵沿街巡逻，敲锣传谕提营前总将军的几条禁令。天亮以后，刘宗敏率领一大群文武官员和五百骑兵进城，将布政使衙门作为自己的行辕。这时大街上和十字路口都张贴了以他的名义发布的檄文和大顺国王的两次诏书。这三通极其重要的文告，两天来已经从太原的南边和东边射入城内，但是由于守城官绅们的禁止而被随时焚毁，城市土民们无法读到原件，只是私下里纷纷传说。如今士民们知道，大顺军破城后确实纪律很好，堪称古人所说的“王者之师”，又听见巡逻兵丁的沿街传谕，大家的心更安了。起初人们隔着门缝悄悄地向外窥探，随后有平民小户之家或胆于较大的人，开了半扇门，探出头来。随后有人走出，大胆张望，向邻居们互相询问。再后有地方保甲敲锣传呼，说：“大顺皇上将在今天上午巳时整从大南门进城，百姓们要把街道打扫干净，准备香案，迎接圣驾，不可有误。”也有地方要人亲自对那些居住在深宅大院的人家敲门传呼，惟恐这些士绅之家不晓得情况，误了接驾的大事，惹出祸端。于是太原城中恢复了活力，突然间出现了改朝换代的景象。平民振奋，暗觉舒畅；达官贵人们且忧且惧，在等待着命运的安排。
从太原城的南郊开始，穿过南关，进入南门，通到巡抚衙门，家家户户纷纷打扫街道，用于净土填平了坑坑洼洼的街面。能够找到黄沙的，还用黄沙铺地。每家门口都摆了香案，案上供着黄纸牌位，上写着“大顺皇上万岁，万岁，万万岁”。
