王世充奉诏前往四川，在雍州廨署住着，正要启程，忽然有好几个骑马的人拿着敕书而来，让王世充出来跪下听读。王世充就和哥哥王世恽出来，刚要下跪，那些人就下马，拔出腰刀，将他们兄弟杀死。
这些人其实是定州刺史独孤修德，带领兄弟来报父仇的。独孤修德的父亲叫作独孤机，曾经为越王杨侗做事，后来越王被杀死，独孤机想诛杀逆贼王世充，归降大唐，却被王世充知晓，王世充把他全家给杀了，幸亏当时独孤修德弟兄在长安居住，才逃过一劫。
独孤修德在大唐做官，官至定州刺史，听说王世充被捉了，只盼望着高祖将他正法，谁知有诏特赦，顿时让他无法泄冤。于是想出一法子，假传圣旨，杀了王世充。独孤修德杀人后，就上书自首，说情愿受罚。高祖觉得他们父忠子孝，情有可原，于是特别减邢，只是罢了他的官。王世充的儿子王玄应和哥哥王世伟在路上想叛逃，被监吏察觉，监吏飞马上奏唐廷，唐廷把王世充全族诛杀了。
话说窦建德死后，河朔被平定，窦建德手下的余众都被遣散，回归故里。偏偏有几个嚣张蛮横之辈，贼心不死，聚众横行乡里。地方官吏派人追捕，这些人就又冒出叛变的想法。地方官吏担心他们造反，当即上奏朝廷。
于是，高祖下诏召窦氏旧将入京，范愿、董康买、曹湛、高雅贤等人都在列。大家私下聚在一起商议，范愿先开口道：“王世充举洛阳投降大唐，他的大臣如段达、单雄信等人全都被杀了。我们如果入长安，肯定跟他们结果一样。而且，我们这十年以来，身经百战，九死一生，现在何必珍惜这剩余的光阴，不如我们再次起事。况且，夏王俘获淮安王后，对他以礼相待，并放他回大唐，再看大唐怎么对待夏王，抓了他之后立即杀死。我们都受过夏王的恩惠，现在不替他报仇，既无以面对夏王，又无以见天下人士，难道不感到惭愧吗？”
高雅贤接着说：“你所说的很对，我因有官兵时来侦察，想要把家属徙到别处去，偏偏这班狐群狗党，早就听到风声，把我的家人抓了去，幸亏当时我不在家，才得以脱身。现在又来召我入京，明明就是想置我于死地。同样是一死，为什么不造反呢？”董康买、曹湛等人都齐声赞成，当下商量推选主帅。议了半天也没选好，于是卜了一卦，卦象上说应当选个姓刘的为主帅。高雅贤道：“漳南刘雅不是夏主的旧将吗？我们去请他当主帅吧。”于是，这些人便前往漳南，去见刘雅。刘雅问有什么事？他们把想法告知他，然而，刘雅摇头道：“天下才刚刚安定，我只求耕田种桑，做个普通老百姓，不想再谈兵事。”
高雅贤等人听了这话，立马变脸道：“你这么说，就是不愿意出去了？”刘雅也很不高兴地回道：“这是我的自由。”高雅贤等人又逼问一句道：“你如果不愿意去，那我们的情谊就从此了断。”刘雅随即起身道：“你们和我断绝关系，又有什么关系。”说到这里，范愿竟然拔出腰刀，向刘雅砍去，其他人也趁机动手。可怜刘雅赤手空拳，根本对不过他们，最终被这帮人杀死了。
一行人回来后，范愿又提议道：“前汉东公刘黑闼，有勇有谋，超越众人，性情又仁善，我曾经听说过刘氏会当上皇帝，现在我们想利用夏王剩余部众，共举大事，非此人不可。”于是，这些人又去见刘黑闼。刘黑闼是漳南人，先投奔李密，继而归降王世充，后来又投降了窦建德。窦建德封他为将军兼汉东郡公。后来，窦建德败死，他就回家务农。
这天，刘黑闼正在园中锄菜，突然看见范愿等人携手前来，于是，刘黑闼把他们迎入屋内，问明来意。范愿大概讲了下来意，刘黑闼刚开始还稍稍逊让，后来经高雅贤一再催促，就高兴地答应了。当下，这帮人宰杀耕牛，大摆宴席，然后制定计划，召集了一百多人袭击漳南县城，把县官杀死，开仓放粮，招徕旧党，很快就聚集了几千人。这伙人又进攻鄠县，贝州刺史戴元祥和魏州刺史权威合兵前去救援，刘黑闼在路上设下埋伏，两位刺史被引诱入陷阱，兵败而死，兵器也被这伙人抢去了。
于是，刘黑闼在漳南设坛，为窦建德设立灵位，带领大家祭告，让大家起兵为窦建德报仇。然后，刘黑闼自称大将军，向东出兵，攻陷历亭，杀了守将王行敏。饶阳盗贼崔元逊也起兵占据深州，把刺史裴晞杀了，响应刘黑闼。
自从洛阳被平定后，兖州盗贼徐圆朗本来已经上书归降大唐，并被封为鲁国公兼兖州总管，现在竟然也与刘黑闼连和，起兵造反，自称鲁王。兖郓、陈杞、伊洛、曹戴等州县当地的豪绅，陆续归附刘黑闼，山东一片恐慌。
这时候，唐军正打算南下攻打江陵。高祖命令夔州总管，高祖的堂侄李孝恭，大造战舰，练习水军，即日出发。偏偏山东陆续传来战报，李渊只好封淮安王李神通为山东道行台右仆射，宣抚各郡，又派将军秦武通和定州总管李玄通，会同幽州总管李艺（罗艺改名）一同讨伐刘黑闼。征东的大军先行出发，南下的大军紧接着也被派出了。
唐军南下是为了讨伐萧铣。萧铣是梁宣帝萧詧的曾孙，是隋朝萧后的亲戚，隋炀帝任命他为罗川令。隋末，萧铣被巴陵校尉董景珍等人推为梁王，改年号为鸣凤，服色、旗帜和梁朝一样。萧铣只起兵五天，远近归附的人马已经达到好几万人。没过多长时间，萧铣自称皇帝，迁都江陵，并封董景珍等七个功臣为王，又召邓州人岑文本为中书侍郎，派鲁王张绣招降岭南，岭南大部分郡县都来归降。萧铣又命令部将苏胡儿去攻打豫章，杨道生去进攻南郡，一时间威震四方。当时南自交趾，北到汉水，西至三峡，东达九江，都是萧铣的领地，拥兵多达四十多万。
武德二年，杨道生进攻峡州，被大唐刺史许绍击退。萧铣派大将陈普环带领水军进入三峡，被许绍在西陵截击。许绍据险破敌，抓住了陈普环。但是，萧铣还是不死心，在安蜀城屯兵，窥视巴蜀。
高祖命李靖镇守夔州，李靖因为被萧铣的大军阻拦，总是不能前进。高祖命许绍责备李靖逗留，要处李靖死罪，许绍代李靖向高祖解释，高祖才免李靖一死。
董景珍的弟弟因为谋乱，被萧铣杀死。当时，董景珍已经出守长沙，他怕追究罪责，于是投降了大唐。萧铣得知消息，连忙派张绣攻打董景珍，董景珍登上城楼，对张绣说道：“功成者死，您难道没有听说吗？为什么还要来攻击我呢？”张绣不肯听，率领部下围城，城内食尽，董景珍想突围逃走，被部下所杀。于是，萧铣封张绣为尚书令，但是张绣居功自傲，未免骄横，最终还是被萧铣杀了。从此，那些功臣将领的心都离萧铣越来越远，因而，萧铣的势力一天比一天衰弱。
后来，大唐峡州刺史许绍攻下了荆门镇，黔州刺史田世康攻下了五州四镇。李靖向高祖献上取梁十策，上达唐廷。于是，李渊任命赵郡王李孝恭为夔州总管，让他整练水师，李靖为行军总管，兼孝恭属下长史，掌管军事。
武德四年秋八月，李孝恭在夔州阅兵，正好碰上秋水暴涨，江水泛滥，李靖劝李孝恭赶快进兵，将士们大多不同意。李靖勃然大怒，道：“用兵贵在神速，如今我军刚刚成立，萧铣还不知道，如果趁着江水上涨顺流东下，趁他不备，杀他个措手不及，一定能活捉萧铣。”李孝恭非常赞同李靖的建议，于是，他亲自率领两千多艘战舰带着李靖等人当天出发。他们越过荆门、宜都两镇，直奔彝陵。萧铣的大将林士弘正在清江驻兵，根本没有设备，结果被大唐的水军一下子歼灭，唐军还缴获了三百艘战舰。林士弘踉跄逃走，唐军追奔到百里洲，又与林士弘开战，再次获得胜利，唐军直达北江。江州总管盖彦举带着五个州城来投降。
萧铣正罢兵营农，突然听说大唐的水军杀奔过来，慌忙征兵。一时间没有招到很多兵马，只好调来亲兵卫队前来迎战。李孝恭正打算和他们交锋，李靖连忙阻止，偏偏众将都来请战，李靖解释说：“萧铣为了扭转败局，派来的都是精锐军兵，气势锐不可当。我军不如在南岸停舟休整，等他们锐气衰弱，或者分兵归守后，我军再出击，这样才能取胜。”李孝恭不听劝阻，留下李靖守营，自己率领精锐部队出战，果然被萧铣打败了。萧铣的部众见唐军败退，就散乱地向江心去抢夺财物。李靖见他们舰队散乱，于是主动请战出兵，李孝恭正在后悔没有听李靖的话，这时自然同意。萧铣的军兵正在到处抢东西，没料到唐军还会杀来，都吓得四处逃散，哪还有什么心思恋战？李靖带兵追击，一路杀了无数的敌兵，乘胜直抵江陵，冲入外城，分兵攻打水城，缴获了很多战舰。李靖让将士们把这些船只全都散乱地丢在江中。众将很不能理解他的做法，于是都来问李靖：“我们得了这么多敌舰，正好可以利用，为什么要扔到江中，这不会被敌军捡去再次利用吗？”
李靖笑着说：“将士们有所不知，现在南极岭外，东至洞庭，都是萧铣的属地，我军冒险深入，如果城池攻不下来，那么敌人援兵就会从各处赶来，到那时我们就会里外受敌，进退两难，即使有船只也没用。现在我把敌军的船只散乱地扔在江中，让这些船沿江而下，那么那些远道而来的援兵，就会怀疑江陵是否已经被攻破，就不敢贸然进攻。等他来回派人来打探消息，那也要很长时间，到那时即便察觉，我们也早就把这座城攻下了。”
于是，李靖下令围城。萧铣在城中，天天盼着援兵快点到来，哪知援兵已经中了李靖的计，望见沿江的船只，果然怀疑江陵被攻破，都不敢前进。交州总管邱和、长史高士廉、司马杜之松等人来江陵，朝见萧铣，看到全城被围，吓得连忙退回，竟然跑到李孝恭处投降。
萧铣内外阻绝，非常焦急，于是和岑文本商议，岑文本劝他投降。于是，萧铣对群臣说：“上天不保佑我们梁国，现在恐怕很难坚持下去，如果再跟唐军硬拼，只怕会生灵涂炭，何必因为我一个人，让满城百姓都遭殃。算了！还是早点投降吧。”群臣听了这话，全都哑口无言。于是，萧铣以牲畜祭祀太庙，然后宣布投降，守城的将士都哭了。于是，萧铣穿着丧服，带着头巾，来到唐营拜见李孝恭，惨然说道：“有罪只是我萧铣一人，城里的百姓没有罪，请不要杀他们！”李孝恭满口答应，可刚一入城，众将就想大肆掠夺，一时李孝恭也犹豫不决。
这时，岑文本对李孝恭说：“江南的人民遭受隋朝的虐政，再加上群雄相争，受了很多苦，他们伸长脖子，踮起脚跟，一直盼望有真命天子能来解救他们。如今，你们的大军来到这里，所以，萧氏君臣决定归降，让民众休养生息。如果你们纵兵俘掠，百姓们就会很失望，恐怕从此以南，你们会处处受到阻碍，很难归服了。”
李孝恭觉得他的话很有道理，于是下令大军进城后，禁止杀掠。众将又说：“敌将奋力顽斗，死有余辜，应该没收他们的财产，赏给军兵。”李靖连忙劝阻道：“王师入境，应该让百姓称颂才是。敌军也是为了他们的主子而战死的，实在是忠臣，怎么能与叛逆相提并论呢？”李恭孝按照李靖的意思再下严令。于是城中一片安然，鸡犬不惊。南方各州县得到消息，闻风全都来投降。援兵来了十多万，最后也全都卸甲，归降大唐了。
李孝恭押送萧铣到长安，高祖当面责问萧铣，萧铣长叹道：“隋朝无道，群雄逐鹿，我萧铣没有天命，因此才会失败的。如果你认为这也是罪的话，那我就必死无疑了。”最终，高祖还是把萧铣斩了。总计萧铣从建国号梁到灭亡只有五年。
李孝恭被封为荆州总管，李靖被封为永康县公兼上柱国，招抚岭南。萧铣的部将刘洎、李砻志等人全都归降李靖，就连南方部落酋领冯盎等人，也大多归降，南方这才太平了。
高开道本来已经投降大唐了，被封为北平郡王，后来听说刘黑闼势力强盛，于是，高开道一边暗地里跟刘黑闼勾结，自称燕王，一边又和突厥通使，为自己找靠山。此时，大唐已经出征刘黑闼，没有心思顾及高开道。
刘黑闼势力渐渐猖獗起来，大唐淮安王李神通和李艺等人合兵出击，都被他打败了。刘黑闼再次攻打瀛州，并把刺史卢士睿杀了，又攻下了定州，捉住了总管李玄通，李玄通引刀自杀了。接着，刘黑闼又攻陷冀州，把刺史麹棱杀了。从此，赵魏境内所有窦建德的旧将，全都争着杀掉大唐的官吏，以这样的方式来响应刘黑闼。黎州总管李世勣在宗城屯兵，听说刘黑闼率兵前来攻打，担心自己抵挡不了，就急忙往洺州逃去。半路上，李世勣被刘黑闼的军兵追上，所率领的五千步兵被刘黑闼一扫杀光。只是李世勣命大，只身逃走了。李世勣逃命要紧，哪还有心思顾及洺州？洺州就此全城失守。刘黑闼到了城下，在东南面筑坛祭祀。他先祭告天地，再祭奠窦建德，然后入城。刘黑闼先后攻下相州、黎州、卫州等地，只用了半年时间，就把窦建德过去的领地全都收回。刘黑闼又派人跟突厥联络，作为外援。唐将军秦武通，洺州刺史陈君宾，永年令程名振等人都从河北逃回长安。高祖很是着急，只好再派秦王李世民和齐王李元吉一同前往山东，讨伐刘黑闼。
这时已经是唐武德五年。刘黑闼自称汉东王，改年号天造，定都洺州，任范愿为左仆射，董康买为兵部尚书，高雅贤为左领军。凡是窦建德的旧将，一律官复原职，一切行政都跟以前的一样。
秦王李世民率军东征，先将相州夺回，再进军肥乡，列营洺水南岸，准备逐步进攻。幽州总管李艺也率数万军兵来和李世民回合。
刘黑闼把范愿留在洺州把守，自己率领精兵去抵挡李艺，晚上驻扎在沙河。李世民派程名振连夜运来六十具大鼓，然后把这些大鼓运到城西二里堤上，一齐槌击，顿时鼓声震天，连城中都摇动起来。范愿被这鼓声吓坏了，连忙派人告诉刘黑闼，刘黑闼慌忙还城，派弟弟刘十善和行台张君立，率一万兵马出站，军兵到了徐河，和罗艺打斗一场，大败而逃。
洺水人李玄感投降大唐，李世民派王君廓入城，和李玄感共同守城，刘黑闼又来攻打洺水，因城在水上，不方便进攻，就从东北两个角上挖了两条地道，运兵攻城。李世民引兵增援，去了三次，都被刘黑闼击回，就召集众将商议。
李世勣进言道：“敌军的地道快挖好了，如果抵达了城下，那城池必定守不了，不如让王君廓突围出来，再想办法。”话还没说完，就有一少年主动请缨道：“末将愿意去守城。”李世民一看是罗士信，就对他说：“将军虽然勇猛，但孤城已经摇摇欲坠，恐怕守不住了。”罗士信道：“城存我存，城亡我亡。”
李世民到城南登上高冈，挥舞大旗召王君廓回营，并且派罗士信去接应。罗士信带着二百骑兵前往，刚好碰到王君廓杀出来，罗士信连忙出兵相助，王君廓这才安全返回了。罗士信冲进城中，刘黑闼又率兵来围攻，夜以继日，接连攻了八昼夜，罗士信衣不解甲，目不交睫，全神贯注地在城上坚守，这才没有被敌军攻陷。
偏偏这时候，老天下了大雪，全城都白茫茫的一片，照得眼睛刺眼，刘黑闼乘机攻进了城。罗士信还拿着长矛，刺死了好几个敌军头目，敌军都吓得为他闪开了一条道。罗士信已经受了重创，不能再战，只好策马往回跑。因为大雪迷漫，而急不择路，罗士信陷入泥淖中，被敌军四面围住，无法脱身，被敌军掳去。刘黑闼欣赏他的骁勇，劝他归降。罗士信大骂道：“黑贼！罗将军肯降你吗？”随即罗士信被杀死，当时他才二十多岁。
罗士信本是齐州人，刚开始是跟随李密，后来归降了王世充，最终归降大唐，为大唐尽忠，这也算是士为知己者死吧！李世民因为被大雪阻住，无法去救他，后来，听说罗士信殉难，感到很惋惜，于是重金买下尸体，厚葬了罗士信，并追封他为勇士。
罗士信死后，刘黑闼又进兵挑战，李世民和李艺合营，坚壁不动。后来，李世民探知到敌将高雅贤在营帐中摆酒宴办盛会，于是派李世勣暗地里出兵袭击，杀入高雅贤的大营。高雅贤当时已经喝醉，勉强乘马出战，很快就被李世勣的部将潘毛从马上刺落。潘毛正要砍他的首级，却被高雅贤的部下救去，但是，当时他已经奄奄一息，很快就死了。
李世民又派程名振截断敌军的粮道，凿沉刘黑闼的粮船，并烧了刘黑闼的粮车，但是刘黑闼还是不肯退兵，就这样两军对持了六十多天。李世民猜到刘黑闼粮食快完了，肯定会来决一死战的。于是，李世民派人在洺水上流筑起大坝，并让他监守，然后叮嘱道：“等我和敌军一开战，你们就把大坝决开，一定不要误事啊！”刘黑闼果然渡河来攻打唐营，李世民亲自率领精兵攻破了他的前军，后来又杀进后队，与刘黑闼相遇。刘黑闼亲自督军死战，从中午一直打到晚上，打了数百个回合，渐渐地支撑不住了。刘黑闼的部将王小胡对他说：“我们已经走投无路了，还是赶紧逃吧。”刘黑闼连忙和王小胡一起先跑了，剩下的敌军还没反应过来，突然间洪水袭来，泛滥两岸，把刘黑闼的部众冲走了好几千人。还有一半来不及逃跑，都被唐兵杀光了。刘黑闼渡过洺水，手下只有二百多人，自知打不过唐军，只好投奔突厥去了。
