话说李靖被军兵推出去，正要被行刑，忽然有一人前来劝阻。这人不是别人，正是敦煌公李世民。李世民和李靖曾有一面之交，知道他才勇双全，所以急忙拦阻。
李世民启禀李渊，说：“父亲不记得韩擒虎的遗言了吗？韩擒虎曾经说李靖这个人很有用兵的谋略，如果为我们所用，一定能立大功。请父亲宽恕他，授予他官职！”
李渊沉默了半天，说道：“我看他相貌奇伟，器宇不凡，将来恐怕不好驾驭。”李世民道：“儿子自有办法驾驭他，请父亲不要担心！”李渊听了这话，同意了李世民的请求。李世民随即出去，把李靖身上的绳索解了，并对他好言抚慰，并请李靖到自己的军帐之中，待他为上宾。
李靖本是京畿地方人士，字药师，是隋朝行军总管韩擒虎的外甥。韩擒虎跟李靖谈论兵事，李靖无所不知，因此韩擒虎非常喜欢他，认为他是个将相之才。李靖还有一段风流艳事。隋炀帝刚登基的时候，曾游幸江都，命司空杨素驻守西京。有一天，李靖进见杨素，和杨素谈论时事，一身豪气，英采逼人。这时，杨素旁边有一个美貌的侍女，手里拿着红拂站在杨素一侧，屡屡偷看李靖。
李靖退出后，红拂侍女偷偷嘱咐门吏，询问李靖的住址，李靖告诉了门吏。当晚，李靖在旅舍睡下，半夜时候，突然有人敲门，李靖起床开门，一少年拿着包裹闯了进来，然后督促李靖赶紧关门。
等少年脱下外衣，摘下帽子，竟变成了一个十五六岁的美丽少女。李靖大吃一惊。少女问道：“公子可还认识我吗？”李靖看了半天，不是很确定地说了句：“杨家侍女？”
少女嫣然一笑，说道：“我是杨家的执拂侍女。”说完，少女向李靖俯身下拜。李靖慌忙答礼，问她来有什么事。少女说道：“小女子侍奉杨司空多年，阅人无数，今天看公子一表人才，世间少有。丝萝不能独生，愿托乔木，我想找人托付终身，所以来投奔公子。”
李靖答道：“杨司空在京师位高权重，如果被他知道你和我在一起，那岂不是要惹来祸端？”少女说道：“他已经是暮气沉沉，无所作为，有什么好怕的！现在，府里的侍女大多都跑了，他也没心思去追回，小女子这才有胆跑来，公子不要担心！”
李靖问少女姓名，少女回答姓张，在家中排行老大。李靖邀少女一起坐下，两人畅聊心事。言谈间，少女谈吐俊雅，风情万种，李靖渐渐地产生爱意，不忍割舍，于是李靖就留下少女，二人结为夫妻。
后来，李张二人担心杨素追捕，一同来到太原，在灵石客栈投宿。一天，黎明时分，李靖刷马，张氏梳妆。突然有一位满脸络腮胡子的人骑着驴，来到客栈，他取来枕头斜卧在一边，观看张氏梳头。
李靖不禁很生气，刚想要呵斥那人。张氏连忙摇手阻止李靖，匆匆忙忙梳好头发，整顿衣衫，向前询问那人的姓名。
男子自称张姓。张氏答道：“我也姓张。”男子听了这话很是高兴，连忙说：“今天真是幸运啊，遇到一个自家妹妹。”话说完，随即一跃而起。张氏叫李靖出来相见，两人彼此间行过了礼，李靖买来酒肉，和这位张壮士同坐共饮。
张壮士问：“我看李公子现在很贫穷落魄，怎么得到这么好的美人啊？”李靖答道：“他人我就不方便告诉了，但是哥哥为人光明磊落，那我就实话告诉你吧！”
于是，李靖就把和张氏相识的来龙去脉全都告诉了他。张壮士接着问：“那你们现在打算到哪里去啊？”李靖回答说，要到太原去避祸。张壮士微微点点头，随手取出一个装食物的口袋，笑着对李靖说：“我这里也有下酒的食物，李兄弟愿意和我一起吃吗？”李靖谦虚地说不敢。
等张壮士打开口袋一看，里面竟然是一个人头，一副心肝。张壮士把他们放到碗里，用匕首切成薄片，大嚼着吃完，对李靖说：“这是天下的负心人，我已经怀恨他十年了，如今被我杀死，才消了我的心头之恨。”言谈间，全是侠客行径。李靖只得连声应答，不敢细问个中究竟。
张壮士又道：“我看李兄弟器宇轩昂，不愧是人中丈夫，我这位妹妹可真是找到了一位佳偶了。但是，不知道太原一带还有没有奇人异士？”李靖答道：“有啊！这人和我李靖同姓，年方二十，生得一副帝王之相，我看他以后一定会是真命天子。”
张壮士道：“此人现在在做什么事呢？”李靖回答说是将门之子。张壮士点头说：“那李兄弟能帮我引见一下吗？”李靖答道：“我有个朋友，名叫刘文静，跟这个人交情很深，可以请他为你引见一下。但是，哥哥为什么要见他呢？”
张壮士道：“现在太原有帝王之气，想必就应在这人的身上，所以我想跟他见一面。只是现在我还有些琐事，不方便与你们一起到太原，等到了太原我们再见面。李兄弟就在汾阳桥等我，千万不要失约呀！”说完，张壮士就骑驴走了，转眼间就不知去向。
李靖知道张壮士是位侠士，立即和张氏启程前往太原，来到汾阳桥等他。张壮士果然如约而来，两人相见很是高兴，随即一同去刘文静家。张壮士自称会看相，想见一见李世民。刘文静本来就很赏识李世民，听说来客善于看面相，就打算让他验证下，于是派人请李世民过来聊天。
李世民身着便装前来，举止间潇洒大方，神采飞扬，相貌堂堂。张壮士见了不禁大惊，连忙对李靖小声地说：“果真是位真命天子，我已经料定十之八九。我还有一位道兄，让他见见，那么就能料定十成了。”
李靖转告刘文静，刘文静答应再定日期，再见一面。张壮士随即告别。约期一到，张壮士把一道士领来，和李靖见面，一起去见刘文静。
刘文静正在下棋，见到道士，随即邀道士一起下棋，并派人去请李世民一同来观棋。很快，李世民赶到了，抱拳相见后在旁边就座，回首抬眼之间一副卓尔不群的样子。道士怅然，把棋全都放在匣子里说：“这一局，我输了，不必再继续下了。”随即请辞。道士一出门就对张壮士说：“有这个人在这里，你就不必强图大业了，可到别的地方谋出处了。”说完，道士飘然离去。
张壮士对李靖说：“李兄弟是个可信之人，只是妹妹还没有一个栖身住所！我为你们筹划一个住宅安顿下来，今天你们就和我一起返回西京长安，怎么样？”李靖觉得很为难。
张壮士说道：“你是怕杨素吗？他已经死了。况且有我和你们同行，你怕什么呢？”李靖听了这话，于是和张氏一起，跟着张壮士一同返回京中。果然，杨素早就已经死了，隋炀帝另派代王杨侑留守西京，于是李靖夫妇放心地进入京城。张壮士又对李靖说道，今日先暂时分别，明日你和妹妹一同来某坊某宅，我在那里等候你们。说完，张壮士挥手离去。
第二天，李靖和张氏一同来到某坊，果然看到一个小小的板门，才叩了一二声，就有人出来迎接他们。
几重门之后，两人被引入内院，顿时豁然开朗。屋舍非常宏丽，有几十个奴婢，侍女带着李靖夫妇来到东厅，厅内的陈设珍奇异常。这时，张壮士出来相见，只见他头戴纱帽身穿紫衫，和之前的装束截然不同，让人眼前一亮。后面跟着一位少妇，只见她身着华服，非常雍容端庄，也很秀丽。李靖料到是张壮士的妻子，随即让张氏上前相见。张壮士非常殷勤地招待李靖夫妇，并邀他们进入中堂。
四人刚刚相对坐下，就有仆人端来佳肴，整饬酒席，还有女乐在庭中奏乐助兴，四人一起把酒言欢，非常高兴。喝到高兴的时候，奏乐停止，张壮士让奴仆抬出二十个宝箱，放在酒桌左右两旁。
张壮士指着箱子，对李靖说：“这些都是我这么多年积蓄，今天我就把它们全部赠送给你们。我本来是想在这里建功立业的，如今既然遇到真龙天子，那我就不应该再留下了。太原李氏是真龙天子，三五年内，他就可以平定天下了。李兄弟很有才能，如果能辅助天子，将来必定位极人臣。妹妹独具慧眼，得以配得你这位君子，将来你们两人夫荣妻贵，儿女双全。李兄弟安心将我所赠的钱财用来建功立业，辅佐天子，努力奋斗，如果十多年后，在东南数千里外有消息传来，那就是我得志了。到那时，妹妹和李兄弟可前来喝酒祝贺。”
说到这里，张壮士把房契，钥匙等一并交出，还让家僮拜见李靖夫妇，并嘱咐道：“这两人以后就是你们的主人了，你们不得怠慢！”听了这话，李靖和张氏正要拒绝。谁知，张壮士已经带妻子，进入内室，不一会儿，两人穿着戎装出来，拱手向李靖夫妇告别。二人出门乘马，也不多带行囊，只带着一个奴仆，扬鞭向东去了。
李靖夫妇送他们出门，不一会儿，就不见张壮士夫妇踪影了。两人若有所失，返回室内，检视那二十具箱子，都是价值不菲的财宝。张壮士还留了几箱子兵书，内面记载着风角、鸟占、云祲、孤虚等奇门要术。
李靖趁空闲时间认真揣摩兵书，很有收获，逐渐料事如神。后来，到了唐太宗贞观年间，东南蛮族上书奏报，说海外有一个番邦首领，入侵扶余国，自立为王，国中大势已定。李靖就知道是张壮士成事了，于是，李靖和张氏洒酒于地，一起向东南拜贺。世人所称“风尘三侠”，指的就是李靖夫妇和张壮士三人。
李靖得了张壮士馈赠的钱财后，非常豪爽大方，到处交游，结交了很多达官贵人。这些贵人推荐李靖入朝为官，李靖很快入朝当了殿内直长，不久之后，李靖出任马邑郡丞。
听说李渊已经在太原起兵，李靖料他必会进攻长安，于是李靖借告发为名，自己主动进入牢车，由衙役押送长安，先在长安等候。果然不出李靖所料，长安城被义军攻破。见到李渊后，李靖知道自己命不该绝，故意当面冲撞李渊，不愿意乞求怜悯。
李世民曾与李靖有一面之缘，并且听说李靖很有才能，于是竭力营救李靖。后来，李靖效力于李世民的军帐之下，尽心竭力辅佐襄助。
李渊安定好百姓后，停止杀戮，拥立代王杨侑为帝，在大兴殿即位，改年号为义宁，遥尊隋炀帝为太上皇，并且自封为大丞相，全权掌握内外军事兵权，称唐王，把武德殿作为丞相府，设置官吏处理政事。
李渊还是让裴寂任长史，刘文静任司马，召前尚书左丞李纲为相府司录，掌管选拔人才的事，前考功郎中窦威为司录参军，掌管礼仪。李渊又追封自己的祖父李虎为景王，父亲李闼为元王，夫人窦氏为穆妃，封大儿子李建成为世子，二儿子李世民为京兆尹秦公，四儿子李元吉为齐公。
布置完毕，忽然接到来报，说西秦霸王薛举自称秦帝，派儿子薛仁杲侵略扶风，并且谋划攻打长安。李世民听到这个消息，主动请命出击，李渊让李世民率部众前去攻打。李世民大军来到扶风境内，遇着薛仁杲的军队，李世民立即率军大刀阔斧杀了过去。薛仁杲的军队抵挡不住，纷纷逃走。扶风太守窦琎和河池太守萧瑀都来迎接李世民，李世民也很有礼貌地接见了他们，还把他们二人引见给父亲。李渊封窦琎为工部尚书燕国公，萧瑀为礼部尚书宋国公，又派人到河东招降屈突通。
屈突通正和刘文静相持不下，已经有一个多月。屈突通经常派牙将桑显和，突袭刘文静军营，刘文静和段志玄等人奋力痛击，杀了好多屈突通的军兵，桑显和只好带着几个骑兵逃回。屈突通见局势日渐严峻，就留下桑显和把守潼关，自己率军向东逃往洛阳。他走后，桑显和随即率众归降了刘文静，刘文静派窦琮等人，与桑显和联军，追击屈突通，屈突通让大军列成队形，结成阵势，坚决不出来迎战。
窦琮派屈突通的儿子屈突寿，劝父亲归降，屈突通见儿子屈突寿来到阵前，大骂说道：“你这逆贼来干什么？从前我们是父子，从今以后我们就是敌人了。”说完，屈突通就命左右侍卫用箭射杀屈突寿，屈突寿狼狈跑回。
桑显和对屈突通的部众喊话，说道：“现在京城已经沦陷，你们都是关中人，跟着屈突通要去哪里呢？还是快快投降吧，这样还可以回去和家人团聚。”屈突通的部众听了这话，全都缴械投降。
屈突通自知大势已去，无力挽回，于是下马，向东磕头痛哭，道：“臣已经尽力了，并非有意负国，天地神灵明鉴。”部众二话不说，押着屈突通来到刘文静的营中。刘文静把屈突通押送到长安，李渊再三抚慰他，并封他为兵部尚书，赐予他蒋国公的爵位，还派他到河东城下招降尧君素。
尧君素登上城楼，见到屈突通，潸然泣下。屈突通也流着泪，对尧君素说道：“我军已败，如今义兵所到之处，没有不响应的。大势至此，您还是早点投降吧！”
尧君素正色说道：“大人身为国家大臣，皇上把关中委托给你，代王把社稷委托于您，你怎么能负国降敌，还来为他人做说客呢？”
屈突通叹道：“君素啊！我也是因为力竭计穷，才投降啊！”尧君素道：“我还没有力穷，你不用多说了，我是不会投降的！”说到这里，尧君素不再理会屈突通，自己下城离去。
屈突通也感到很惭愧，返回报知李渊。李渊听说尧君素的家属都居住在长安，随即派人把他的家眷扣押起来，还让尧君素的妻子写信劝降。尧君素仍然不予答复。
于是，李渊调虞州刺史韦义节等人，率军逼攻河东。另外，李渊派刘文静向东征讨弘农（今河南省灵宝市）各郡，又派侄子李孝恭等人抚慰山南，山东，派云阳令詹俊等人南征巴蜀，各地陆续投诚。
义宁二年，李渊封李建成为抚宁大将军，李世民为副将，率军七万，征讨东都。李元吉被封为镇北将军，掌管太原十五郡军事。三个儿子奉命渡河，东南两边分兵进攻。
忽然，江都传来急报，说隋炀帝被宇文化及杀害，另立秦王杨浩为帝了。李渊得到这个消息，不禁痛哭，说道：“我在这里辅助代王，不能前去救先帝，真让人痛心啊！”
原来，隋炀帝在江都久住，一天比一天荒淫无道。朝廷大臣，无论文武，都有卸甲归田的想法。将作少监宇文智及和郎将司马德勘、直阁裴虔通等人，推举宇文智及的哥哥宇文化及为头领，密谋杀害隋炀帝。宇文化及等人乘夜放火，带兵杀入玄武门，直奔东阁，把隋炀帝拉出宫室，历数他的罪过，然后把他勒死了。
隋炀帝的弟弟蜀王杨秀、儿子齐王杨暕、赵王杨杲，以及长孙燕王杨倓等人，包括宗室外戚都被斩首。宇文化及等人还把大臣虞世基、裴蕴、来护儿、萧巨、许善心等十几个人也杀了。只有隋炀帝的侄子秦王杨浩，因为跟宇文智及交情好，才没有被杀。宇文智及建议宇文化及立杨浩为帝，让杨浩居住在别宫，只许发诏署名，不得干涉政事。
宇文化及自封为大丞相，掌管所有大权，并拥兵十几万。他还把六宫妃嫔占为己有，就连隋炀帝的皇后萧氏也被他奸污了，跟隋炀帝一样荒淫无道。宇文化及封弟弟宇文智及为左仆射，宇文士及为内史令，裴矩为右仆射，把左卫将军陈稜留下来，把守江都，自己劫持萧后和秦王杨浩等人向江东出发，打算返回长安。宇文化及一路上的仪卫甲仗，都仿照皇帝的规格。
宇文化及等人抢了江都人的舟楫，打算经彭城水路，陆续出发。虎贲郎将麦孟才、虎牙郎钱杰和折冲郎将沈光等人，打算谋杀宇文化及，谁知事情败露，全都被宇文化及杀害。
队伍开到彭城，水路行不通，宇文化及等人又抢夺百姓的牛车两千辆，装满了宫人和珍宝，所有的兵戎铠甲没有车可以装载，就命军士背着前进。路途遥远，军士们疲劳不堪，都忍不住唉声叹气。
司马德勘又联络郎将赵行枢等人，商议杀掉宇文化及，并且派人到曹州，秘密和孟海公结盟，让孟海公施以援手。谁知孟海公还没有赶过来，司马德勘等人的计谋就败露了。于是，宇文化及假装出去打猎，召司马德勘等人同行，帐下藏着伏兵，宇文化及把司马德勘等人一并拿下，把他们全都处死了。
这时，魏公李密屯兵在巩义、洛阳一带，拦住了宇文化及。吴兴太守沈法兴凭借长江以南十几个郡，也来声讨宇文化及。梁王萧铣，因隋炀帝被杀，居然自己称帝，把京都迁到江陵（今湖北荆州）。李渊接连听到这些消息后，也跃跃欲动，于是，他把李建成和李世民召回，威胁代王杨侑禅让帝位。
代王杨侑本来就是一个小孩子，自己的性命都不能左右，一直握在李渊的手上，因此无论李渊说什么，他都只好唯唯从命。一班攀龙附凤的臣僚当然乐意代为拟诏，于是，诏书今天赐予唐王九锡，明天又允许唐王戴十二冕旒，建天子旌旗，出行时警戒清道，禁止行人。
到了五月戊午日，代王杨侑终于宣告禅位，诏书说：
天祸隋国，大行太上皇遇盗江都，酷甚望夷，衅深骊北，悯予小子，奄造不愆，哀号永感，心情糜溃。仰维荼毒，雠复靡申，形影相吊，罔知启处。相国唐王，膺期命世，扶危拯溺，自北徂南，东征西怨，致九合于诸侯，决百胜于千里。纠率夷夏，大庇甿黎，保乂朕躬，繄王是赖。德侔造化，功极苍旻，兆庶归心，历数斯在。屈为人臣，载违天命。在昔虞夏。揖让相推，苟非重华，谁堪命禹？勉强附会。今九服崩离，三灵改卜，大运去矣，请避贤路。予本代王，及予而代，天之所废，岂其如是？庶凭稽古之圣，以诛四凶，幸值维新之恩，预充三恪。雪冤耻于皇祖，守禋祀为孝孙，朝闻夕陨，及泉无恨。今遵故事，逊于旧邸，庶官群辟。改事唐朝，宜依前典，趣上尊号。若释重负，感泰兼怀。假手真人，俾除丑逆。济济多士，明知朕意！
禅位诏书下达后，代王杨侑派刑部尚书兼太保萧造，司农少卿兼太尉裴之隐，带着皇帝的玉玺，来到唐王府中宣诏。李渊假装推让一番，然后才受命。随即，李渊改大兴殿为太极殿，择了甲子日登基。
当天辰时，李渊先派萧造在南郊祭告，然后即位。李渊继位时已经五十多岁了，眉毛胡子都有点白了，因为相士推断本朝为土德，于是服色以黄为尊。
李渊头戴黄冕，身着黄袍，由侍卫拥护着登上帝座。宗室贵戚和大臣们纷纷按序进入大殿，分列两班，跪拜朝贺，三呼万岁。历史上称李渊为唐高祖。
李渊登基后，颁布诏书，改义宁二年为唐武德元年，并大赦天下，官吏各赐爵一级。义军所经过的地方，免除三年赋税徭役，并且撤郡设州，改太守为刺史。退朝后，又赐宴百官，按照功劳大小赏赐金银。
第二天，李渊封李世民为尚书令，侄子李瑗为刑部侍郎，裴寂为右仆射，刘文静为纳言，萧瑀、窦威为内史令，李纲为礼部尚书，窦琎为户部尚书，屈突通为兵部尚书，独孤怀恩为工部尚书。殷开山等将士，也都分封了官职。
李渊还废除了隋朝的律令，颁布了新法，又在都城建造高、曾、祖、父四亲庙，追尊高祖李熙为宣简公，曾祖李天锡为懿王，祖父李虎为景皇帝，庙号太祖。父亲李闼为元皇帝，庙号世祖。祖母及母亲都称王后。追谥王妃窦氏为太穆皇后，追封皇子李玄霸为卫王，立世子李建成为太子，封李世民为秦王，李元吉为齐王，还封赏李氏宗亲，李渊堂弟蜀公李孝基等人，封王约有十人。
李渊把杨侑降为酅国公，赐予宅邸让他在京师住下，追谥隋炀帝为太上皇，江都太守陈稜，按照天子仪卫，改葬炀帝于江都宫西吴公台，被杀的隋朝王公的坟墓都葬在隋炀帝墓的两侧，隋朝自此结束了。
东都留守官段达，王世充，元文都等人还在垂死挣扎，听说隋炀帝死后，他们奉越王杨侗为皇帝，改年号为皇泰，与唐军为敌。此外，还有几个占据一方的草头王，互相吞并，没有投降，其中最为强悍的几个，还想逐鹿中原，李渊父子围剿了好几年才把他们歼灭。
