众将大都随声附和，只有王伯当一直沉默不语。王伯当不仅精于骑射，武功盖世，而且也是个不肯轻易向别人低头的血性男儿，所以他打心里就不想投降李渊。然而，他又不得不正视现实，深知事到如今也只有这条路可走，别无他途。他不像柳燮他们那样把李密的前景想象得灿烂无比，反倒是隐隐有种不祥的预感，充满了悲观情绪。他了解自己的老师，知道他是不甘居于人下，到时必会与朝中大臣争权夺利，如此必为李渊的宠臣们所排挤，所打压。真是前途未卜，甚至生死难料啊！想到这些，王伯当忍不住轻轻叹了口气，脸上罩着一层忧愁。
李密听到王伯当那声饱含忧虑的叹息，不禁愕然，愣愣地望了他好一会儿，问道：
“伯当，你为何叹息，是不想跟随老师一道去长安吗？”
“不是，老师！”王伯当摇头否认，脸上挤出丝笑，低声说道，“学生只是担心老师您的前程哪，唐公虽与您有手足之情，可他手下那帮人……”
“好了，不说这些了！”李密心头蓦然间被一种莫名其妙的烦忧所困扰，禁不住叹了口气，紧接着又打断学生的话说，“伯当，我知道你对老师没有二心，只要老师说一声，你一定会跟着老师回关中。可老师不能这样做，毕竟你父母妻儿在这。你得好好照料妻儿，也得在父母膝前尽孝，以尽为人子为人夫的孝心与责任。所以尽管老师很希望你能陪在我身边，但是不敢强求你随我进长安，否则就是老师我的过错了。你就留下吧！”
“不，老师！”王伯当语气坚决地答道，“昔时萧何率领所有子弟跟随汉王，今伯当遗憾兄弟子侄们不能跟着您。再者，大丈夫志在四方，岂能厮守于妻儿父母身边而失去大义呢？伯当纵然粉身碎骨葬身莽原，也心甘情愿跟随老师您！请老师能体察学生之心，带我上长安吧！倘若老师不肯，那伯当当以死相胁，请老师见谅！”
说时，王伯当伸手从腰间的剑鞘中抽出把明晃晃的短剑。
李密见状，大声喝止。沉吟片刻，他大为感动地对王伯当说：
“李密身处万人背弃之时，尚有如此忠心之人，可足慰平生哪！好，既然你对老师有这份深情厚谊，那老师我也不能冷了你的心。伯当，我们一起上长安吧！”
说时，李密的眼里有泪光在闪动。他一边尽力控制住自己的情绪，一边从王伯当手上夺过剑，亲自替他插入剑鞘。然后，他扭过脸向众将宣布：
“本公决定归顺大唐，望各位将军明日率部回关中，不得有误！”
众将士听说可以回关中，不用再冒着生命危险打仗，一个个欢天喜地，激动得两眼哗啦啦直落泪。是呀，能逃离战争是件多么幸福的事啊！
翌日上午，李密率领二万余人，踏上了回关中的路。那天，天空阴沉沉的，北风呼呼地刮着，令人感到初冬的寒意。
数日后，李密便从河阳抵达了长安。李渊对这位同宗兄弟归附自己表现出了极大的热情，他听说李密的部队快要进长安了，就接连不断地派人带着御酒美食前去慰劳。等李密到达长安了，他立即宣旨在太极殿召见李密。李渊相当看重与李密之间这份同宗之情，与他同座一席，握手言笑，十分亲密。李密原以为李渊会借机奚落自己一番，没料到居然得到了李渊的夸赞与认同，自然非常满意和欣喜。与此同时，他想李渊如此欣赏自己，而自己又以崤山以东几百座城池交付李渊，其功超过窦融，他能不给高官厚禄，职位应该在裴寂之上吧？
然而很快李密就失望了，因为李渊并没有满足他的愿望，只给他光禄卿、上柱国这种有名无实的职位，赐他一个邢国公爵位。这令一心想手握大权位居裴寂之上的李密深感失落，以至终日闷闷不乐。更令他不开心的是，朝中大臣大都把他视为异己，言语神情中尽显轻视之意，并趁机向他敲诈勒索，使他蒙受羞辱。这一切让李密开始后悔自己当初的决定了，认为归顺大唐又是一大错。不过令李密聊感欣慰的是，李渊这位皇兄对他还算可以，虽因大臣反对不能满足他的权力欲望，却给了他充分的尊重和关爱，不仅口口声声叫他御弟，还将舅舅的女儿独孤氏许配给了他。
李密归降李渊不久，他的总管李育德献武陟降唐。接着原瓦岗军将领刘德威、贾闰甫、高季甫等纷纷率部前来归顺大唐。只有徐懋功依旧死守着黎阳，但这已经改变不了瓦岗军灭亡的命运。