越王杨侗的虎贲郎将刘长恭率领步兵、骑兵2。5万人来讨伐李密，李密一次战斗就打败了官军，长恭只独自脱身。翟让于是推举李密为首领。李密在洛口筑城居住，城周长40里。经房彦藻游说拿下了豫州，东都十分震恐。翟让为李密进献尊号，称“魏公”。李密先推辞不受，经众将领一再请求，才依从了他们。设立朝会、祭祀用的高台，就魏公位，称永平元年，设置属官，任命房彦藻为左长史，邴元真为右长史，杨德方为左司马，郑德韬马右司马。授予翟让司徒，封为东郡公。其他将帅封官授职各有差别。长白山贼孟让劫掠东都，烧毁丰都市后归去。李密攻占巩县，抓获县长柴孝和，授予护军之职。武贲郎将裴仁基献虎牢关归附李密，于是派仁基与孟让率领2万余士兵袭击回洛仓，攻克了它，烧毁天津桥，放纵士兵大肆抢掠。东都出兵进攻他们，仁基等大败，仅只身逃脱。李密又亲自率兵3万逼近东都，将军段达、武贲郎将高毗、刘长恭等出兵7万抵抗，双方在汉洛阳故城交战，官军败走，李密再次攻占回洛仓。不久德韬、德方都死了，又任命郑颈为左司马、郑虔象为右司马。
柴孝和劝李密说：“秦地山势险要，又有黄河环绕，西楚霸王背弃它而导致灭亡，汉高祖在此建都而成就霸业。依我的愚见，应令仁基驻守回洛，翟让驻守洛口，明公您亲自选拔精锐部队，向西进袭长安，百姓谁不到郊外迎接，必定是有征讨而无战斗。攻克京城之后，基业牢固兵力强大，然后再长驱崤、函，扫荡东都洛阳，下达檄文指挥调遣，天下就可以平定。但是如今英雄争相起兵，謇在害怕他人抢在我们前面，一旦失去机会，那就后悔无及了！”李密说：“您所谋划的事，我也考虑很久了，的确是上策。但是昏君还在，跟随他的士兵还很多，我们率领的部队，全是崤山以东的人，既然看到洛阳尚未攻下，怎么肯跟随我向西进军！众将领都出自群盗，留下他们将互争高低。如果是这样的话，恐怕将要失败了。”孝和说：“确实像您说的那样，您考虑问题周密，不是我所能赶上的。大军既然不宜向西出击，请允许我秘密西行去窥测那里的可乘之机。”李密听从了他的意见。孝和带领几十个骑兵到达陕县，万余名山贼归附了他。当时李密军队的锋芒甚为锐利，常常进入禁苑，与官军连番作战。适逢李密被流矢射中，躺在军营里养伤，过了几天，东都出兵攻击他，李密的部众大败，放弃了回洛仓，回到洛口。孝和的部众听说李密败退，各自四散离去。孝和一人骑马回到李密这儿。
炀帝派王世充率领江、淮强壮士兵5万人来讨伐李密，李密迎战，抵抗官军，但战斗不顺利。柴孝和在洛水淹死，李密深感哀伤。王世充在洛西安营扎寨，与李密相互对抗百余日。武阳郡丞元宝藏、黎阳贼帅李文相、洹水贼帅张升、清河贼帅赵君德、平原贼帅郝孝德一起旧附李密，共同袭击占领了黎阳仓。周法明献上江州、黄州地区投靠李密，齐郡贼帅除圆朗、任城大侠徐师仁、淮阳太守赵他等人先后诚心归附，人数以千百计。
翟让部属王儒信劝翟让做大冢宰，总管各项事务，来解夺李密的权力。翟让的哥哥翟宽又对崔让说：“天子只可以自己做，怎能让给别人？你若不能做，我来做天子。”李密听说了他们的谈话后，产生了谋取翟让的计划。适逢王世充列阵来攻打，翟让出兵抵抗，被王世充击退几百步。李密与单雄信等率领精锐部队出击，王世充战败逃走。翟让想乘胜追击，攻占其营垒，此时天色已晚，李密坚决制止了他。第二天。翟让与数百人一起到李密驻地，想宴饮作乐。李密准备好美食款待他，他带来的随行人员，各令分开吃饭。各门都暗中作了准备，翟让没有觉察。李密领翟让入座，他有一把好弓，拿出来给翟让看，于是叫翟让试射。正当翟让拉满弓将发射时，李密派壮士蔡建从背后杀了他，倒在床下。随后杀了翟让的哥哥翟宽及王儒信，连随行人员也有被杀死的。翟让部将徐世劫被乱兵砍中，受了重伤，李密发现后急忙制止士兵，才得以免死。单雄信等都叩头请求怜悯，李密全放了他们，并用好话慰解。于是率领左右亲信数百人到翟让本部营房。王伯当、邴元真、单雄信等人进入营房后，告诉大家诛杀翟让的缘故，众人没有敢动作的。于是命令徐世劫、单雄信、王伯当分别统领翟让的部队。
不久，王世充夜袭仓城，李密率部迎击，打败了他，斩杀武贲郎将费青奴。王世充又把军营迁移到洛北，南面对着巩县，以后就在洛水造浮桥，调动他的全部人马来进攻李密。李密率领1000骑兵抵抗，失利后退回。王世充趁势迫近城下，李密挑选精锐士兵数百人，分为三队出击。官军逐渐后撤，自相拥挤残踏，坠入河中，死亡的达数万人。武贲郎将杨威、王辩、霍世举、刘长恭、梁德重、董智通等诸将领全都死在战场。王世充仅得脱身，不敢回东都，就逃奔河阳。那天夜里下大雪，积雪一尺多深，跟随他逃跑的人，几乎死光了。李密于是整修金墉旧城据守，聚众三十余万。又率部攻打上春门，东都留守韦津出门抵御，李密打败了他，在阵前活捉韦津。同伙劝李密即位称帝，李密不答应。待李渊义军围困东都时，李密出兵争夺，最后双方军队各自撤退。
不久宇文化及杀炀帝叛隋，率领部众从江都北上直指黎阳，拥兵10余万。李密就亲率步兵、骑兵2万人去抵抗他。恰巧越王杨侗继位称帝，派使臣授予李密太尉、尚书令、东南道大行台、行军元帅、魏国公等职，命令他先平定化及，然后人朝辅助治理政务，李密派使者答谢。宇文化及与李密的部队遭遇，李密探知宇文化及的军队缺少食品，速战速决对他有利，所以不同他交锋，又阻拦他的退路，使其不能西进。李密派徐世勋守仓城，化及攻打它，却不能攻下。李密与化及隔河对话，李密责备他说：“你家原本不过是匈奴的奴隶破野头罢了，父兄子弟都蒙受隋朝的深重恩惠，世世代代富贵荣华，以至娶公主为妻，你所得到的光荣和隆盛显赫的地位，整个朝廷没有第二个。享受国士待遇的人，就应当以国士的身份来报答朝廷，怎么能容许在皇上违失帝德时，却不能以死相谏，反而趁大家反叛之机，亲手虐杀皇上，连其子孙也一并诛戮，从皇室旁支中扶立庶出子弟，擅权独尊，阴谋篡夺皇位，污辱帝妃皇后，冤枉残害无罪的人？你不追效诸葛瞻的忠诚，却做霍禹所干的一类叛逆恶行。天地不能宽容你，人神不会保佑你。裹胁威迫好人，你打算向何处去！如今若迅速来归附我，还可以保全你的后代。”化及默然不语，低头俯视了很久，才怒目圆睁大声喊道：“我同你只讲相互砍杀交战的事，何须引经据典，咬文嚼字？”李密对随从人员说：“化及如此庸俗怯懦，忽然想当帝王，这是赵高、圣公一类人物，我应当折木为杖驱赶他。”化及大修攻城器具，借以逼近黎阳仓城，李密率领500轻骑兵驱马进击化及，仓城的守兵又出来接应，焚烧化及的攻城器具，大火彻夜不灭。
李密得知化及的粮食将用完了，于是假装同他讲和，来蒙蔽他的部众。化及不明白其中奥秘，还十分高兴，任凭其士兵敞开儿吃饭，他期望李密送给他食物。正巧李密部下有人犯了罪，投奔化及，把李密的实情全告诉了他。化及大怒，他的军粮又用光了，就渡过永济渠，同李密在童山下交战，从早晨一直战斗到傍晚。李密被流矢射中，在汲县停宿休整。化及劫掠汲郡，然后向北趋赴魏县。这时他的将领陈智略、张童仁等所带领的士兵，一个接一个地纷纷归附李密。当初，化及把辎重留在东郡，派他委任的刑部尚书王轨守护。到这时，王轨以全郡投降李密，李密任命他为滑州总管。李密领兵西进，派记室参军李俭去东都朝拜，抓住了杀死炀帝的人于弘达献给越王杨侗。杨侗任命李俭为司农少卿，让他回去复命，召李密入朝。李密到达温县，听说王世充已杀了元文都、卢楚等人，于是回到金墉。
王世充既已独揽大权，于是给将士丰厚的赏赐，整修兵器战具，人心又逐渐坚定。然而李密的士兵缺少衣服，世充缺少粮食，就请求交换。开始时李密拒斥了他，邴元真等人为求各自的私利，轮流来劝李密，李密终于答应了。原先，东都粮食断绝，来归附李密的人，每天有好几百。到现在，得到了粮食，来归降的人日益稀少，李密才悔悟而停止交换。李密虽然占据粮仓，但无府库，士兵屡次参战而得不到奖赏，而李密又对刚归附的士兵厚加抚恤，因此部众逐渐滋生埋怨情绪。当时派遣邴元真守兴洛仓。元真出身于微贱之家，性格又贪婪庸俗，宇文温很厌恶他，常对李密说：“不杀元真，您的灾难就不会止息。”李密不答话，而元真知道了这事，就暗中策划背叛李密。扬庆听说后告诉李密，而李密仍持怀疑态度。正巧王世充率全部人马来决战，李密留王伯当守金墉，亲自率领精兵开赴偃师，北倚山邙险阻以等候敌人。世充军队来到后，命令数百名骑兵渡御河，李密派裴行俨率部众迎击。正当日暮，双方短暂交战后撤退，行俨、孙长乐、程咬金等十余名猛将皆负重伤，李密很厌恶这事。世充夜间悄悄地率部渡过了河，次日早晨摆好了阵势，李密这才发觉，只好在窘迫中仓促出战，结果大败，与万余人骑马奔向洛口。世充夜间包围偃师，守将郑颐被部下推翻，献城投降世充。李密将要进入洛口仓城，元真已派人偷偷地领王世充的部队去了。李密暗中知道这事但不予揭发，于是同大家谋划，等王世充的兵士渡洛水渡过一半时，然后袭击它。当世充的部队来到时，李密的巡逻侦察骑兵没及时发觉，等到要出战时，世充的部队已全部渡过了河。李密自己揣度不能支撑，就领着骑兵逃走了。邴元真终于献仓城投降了王世充。
李密的部众逐渐离去，他打算去黎阳。有人对他说：“杀翟让的时候，徐世勋几乎被打死。直到今天创伤还未痊愈，他的心怎能保证不变呢？”李密于是停止了黎阳之行。当时王伯当放弃了金墉，驻守河阳，李密率轻骑兵从武牢渡过黄河去归附他，对伯当说：“军队打败了，长时间地劳苦了诸君，我现在自刎，向大家谢罪。”大伙都哭泣，不能抬头仰视。李密又说：“荣幸地蒙诸君不忍抛弃我，应当一道归附若中。我李密虽惭愧无功，诸君必能保全富贵。”他的府掾柳燮回答说：“从前刘盆子归附汉朝后，还能享受租赋，明公您与长安的皇帝同宗有过去的遇合，虽不曾随他起义，然而阻击东都，截断隋军归路，使唐国不战而据有京都，这也是您的功劳啊。”大家都说：“对！”李密就归附了大唐。被封为邢国公，拜授光禄卿。
