结果郭绚居然相信了窦建德，当即率兵跟随建德行军到长河（今山东德州），却不料这时窦建德居然趁机袭击自己，措手不及的官军当即大败，窦建德杀死了郭绚占据了襄国郡。
这时杨义臣因为被架空愤而逃到东都，担任东都禁军首领的宇文化及担心杨义臣会威胁到自己的地位，于是给他两万士兵让他去镇压河北的叛乱。
在河北的张金称由于之前打败了几股郡兵轻敌而为杨义臣所败斩杀，其余众纷纷归附了势力大振的窦建德，杨义臣见状乘胜追击，准备进一步攻讨势力大振的窦建德。
窦建德得知对高士达说：历观隋将，善用兵者无如义臣，今灭张金称而来，其锋不可挡。请引兵避之，使其欲战不得，坐费岁月，将士疲倦，然后乘间击之，乃可破也。
建德的这一策略是较为稳妥的，因为义臣乘胜而来，而义军未经训练又未经过大的战阵，贸然与劲敌对阵没有必胜把握。
但高士达没有听从建德这一建议，执意亲率数万精兵去迎战杨义臣大军，结果大败身亡。
窦建德仅率百余骑逃到饶阳（今河北饶阳），乘其无备将其攻陷暂时落脚在这里。
虽然窦建德夺取了饶阳，不过杨义臣这时认为高士达已死，乱军已经溃败，窦建德所率残余百余骑不足为虑，也就引兵夺取襄国后南下，准备去攻打实力最大的瓦岗大军。
见杨义臣离开，窦建德又重归故地，招集亡散，收葬死者，军势复振。他自称将军，礼遇读书人，以饶阳县长宋正本为谋主，又招诱隋的地方官吏，降之者甚众，军队达到十万多人。
窦建德在河北军势再次雄起后，杨义臣不得不再次从对阵瓦岗的战场北上，同时原本驻守在河东的隋将薛世雄也率军经上党郡杀出来，协助杨义臣围剿大河以北的义军。
杨义臣北上让瓦岗大军终于得到解脱，不过因为瓦岗远离夏国势力，无法通过人口换取大量的粮食和兵器，所以为了解决粮食短缺的问题，他们决定先夺取非常重要的荥阳，以获得洛口仓内的粮食。
张须陀为了解除瓦岗军对荥阳的威胁，不得不主动率兵攻打迅速逼近的瓦岗军，李密让翟让率领主力大军列阵以待，同时自己率领一千精兵埋伏在荥阳城外大海寺北的树林中。
由于翟让从前曾屡次败在张须陀的手里，因此张须陀就心里就有些轻敌。当两军交锋时翟让故意不断败退，张须陀见状大喜便亲自率兵追击。
李密趁机率伏兵出现在隋军的背后，从后面攻打隋军，前后夹击治下张须陀兵败，李密与翟让、王伯当对隋军进行包围歼击，张须陀虽突围而出，但为救其部下几进几出，终于身受重创最终力竭战死。
隋帝国中枢又派裴仁基任河南捕讨大使，带领其众镇守虎牢关（今河南荥阳西北），不过瓦岗夺取荥阳的洛口仓之后实力大振，不仅有了充足的粮食，还获得了大量的军队。
更关键的是，瓦岗军攻克荥阳后只需要再夺取虎牢关，富饶的东都洛阳就已经在自己的面前了，于是裴仁基很快战败投降，裴仁基的战败投降让东都内的杨广等隋帝国君臣惊慌起来。
这时哪怕杨广整天在混吃等死也知道事情的严重性，只是这时他的手里真的没有什么拿得出手的大将，于是之前在平定杨玄感叛变中显露出头角的王世充被他看在眼睛里。
因为瓦岗军距离洛阳城已经很近，原本最好的策略就是据城防守尽可能的消耗瓦岗军的实力，然后再全力出击以逸待劳的将其击败。
可是惊慌失措的隋帝国百官、还有性格越发乖戾的杨广都显得不耐烦了，于是只有五万大军的王世充只好率军出城作战，不知道王世充自己是什么心思，但是几乎所有人都不看好他。