李密接连惨败，部众越来越少，便想逃往黎阳据守。当时镇守黎阳的人是徐世勣，有人就对李密说：“当初杀翟让之际，徐世勣差点被砍死，听说内伤到现在还没有治好。您率领败军去黎阳，万一徐世勣居心不良，您就很危险了。”李密一听有理，放弃了北奔黎阳的打算。
瓦岗军的王伯当正率部驻守河阳，李密就渡过黄河来到河阳。
李密此时的情绪很差，对王伯当说：“兵败了！这么多年来，辛苦诸君了。我今日自刎，以谢众人。”部下都哭成一团，不敢正视李密。李密提不起自杀的勇气，又改口说：“感谢诸君一直跟随我，我这就去关中。虽然我没有尺寸之功，心怀愧疚，但投降李渊，诸君还能保住富贵。”部下府掾柳燮表示赞同，说：“昔日刘盆子投降东汉，安享晚年。李公您与唐朝皇室宗族有关联，虽然不是唐朝起义人员，但是在东都洛阳缠住了隋朝的主力部队，为唐公李渊不战而据京师建立了大功。”众人也都表示同意。于是，李密率部西入关中，投降唐朝。李密入关之时，周边尚且聚集了两万精兵和诸多文臣武将，势力不容小觑。这是一支庞大的投降队伍。李渊对李密主动投降，大喜过望，亲自率领文武百官出城相迎，慰劳再三，封李密为邢国公，拜光禄卿。
李密降唐后，黎阳的徐世勣成为关东瓦岗军残余势力的首领。瓦岗军的残部还控制着南起淮河、北到河北、东起黄河、西至洛阳的广大地盘，部队不下十万人。这些领土和军队都听从徐世勣的指挥。徐世勣面临着重大选择——既可以取代李密成为一方枭雄，也可以将地盘和军队作为筹码，投靠唐朝换取富贵。他对部下说：“这些人口、土地都是魏国公（李密）的，我奉命把守而已。魏国公现已降唐了，我们也应该降唐。”
有部下就建议徐世勣以自己名义把土地和军队献给李渊，换取更大的荣华富贵。徐世勣拒绝说：“如果我直接给李渊上表纳土归降，就是利用魏国公落败之机为自己邀功，如此行为令君子不齿。我应该先把土地、户籍交给魏国公，由他献上。”于是，徐世勣派人向长安方面投降。
李渊听说徐世勣派人来了，以为是向自己投降，结果发现徐世勣依然是以臣礼向李密上表，李密再拿着徐世勣控制的军队和土地投降。李渊不禁感叹道：“徐世勣真是千古罕见的忠臣与君子！”李渊感动之余，封徐世勣为莱国公，依然掌管东方瓦岗军的残部，并特别赐姓“李”。从此，徐世勣改名为“李世勣”。后来，为避唐太宗李世民的名讳，去掉了“世”字，他就是唐朝著名的将领李勣。
李渊对留在长安的李密开始很友好，很厚待，还把表妹独孤氏嫁给了他，后来礼数就慢慢淡薄了下去。李密当的光禄卿又是个虚职，没什么实权，平日里难免遭遇其他实权官员的刁难。回想起山东的显赫时光，李密内心不平起来，他私下对王伯当抱怨道：“我占据洛口的时候，曾经想任命崔君贤为光禄卿，不想现在自己当了光禄卿。”
当时，山东瓦岗军旧部出现了不稳迹象，李密便与王伯当共谋逃出关中，自立为王，从头开始。王伯当起初不赞成，但拧不过李密，同意了。于是李密借口要去收抚山东旧部归降李渊，得到李渊同意后，和王伯当等人准备东出潼关，回归关东。武德元年（618）十二月底，李密与王伯当行至途中的熊耳山，遭到唐军埋伏，双双被杀，传首长安。
李密之死成了隋末唐初的一大疑案。有人认为是李密等人中途造反自立的形迹非常明显，被唐朝地方官府杀死的。有人认为是李渊一直暗中提防李密，听说李密要回山东，将计就计，在途中安排了伏兵，一举杀掉李密及其亲信。
