通守郭绚领兵一万多人讨伐高士达。高士达自认为才略不如窦建德，就推举窦建德为军司马，把所有兵力都交给了他。窦建德请求高士达守卫物资粮草，自己挑选七千精锐士兵抵御郭绚，假装与高士达有矛盾而背叛，派人向郭绚请求投降，愿意做前锋，攻打高士达来立功赎罪。郭绚相信了他的鬼话，便领兵跟随窦建德到长河，不再设防。窦建德突袭郭绚，杀死俘获几千人，砍下郭绚的头颅献给高士达，张金称的残余部众都归附了窦建德。杨义臣乘胜进军到平原，想要进入高鸡泊讨伐他们。窦建德对高士达说：“纵观隋朝将领，善于用兵的莫过于杨义臣。现在他消灭了张金称前来，锋芒不可阻挡。请领兵躲避他，让他想作战却无法交战，耗费时间，将士疲惫。然后趁机袭击他，才能打败他。不然的话，恐怕你不是他的对手。”高士达不听从，留下窦建德守卫营地，自己率领精锐士兵迎击杨义臣，交战小胜后，就设宴饮酒狂欢。窦建德得知后说：“东海公还没有打败敌人，就立刻骄傲自大，灾祸不久就要来了！”五天后，杨义臣大败高士达，在阵前将他斩首，乘胜追击，直逼营地，营中守卫士兵全部溃散。窦建德与一百多名骑兵逃走，到饶阳，趁其不备，攻陷饶阳，收编士兵，得到三千多人。杨义臣杀死高士达后，认为窦建德不值得忧虑，便领兵离去。窦建德返回平原，收编高士达的散兵，收葬死者，为高士达举办丧事，军队再次士气大振，窦建德自称将军。此前，各路盗贼抓住隋朝官员和士族子弟都会杀掉，只有窦建德善待他们。因此隋朝官员渐渐献城投降他，窦建德的声势日益壮大，兵力达到十多万人。
内史侍郎虞世基因为炀帝厌恶听到盗贼的消息，各位将领和郡县有上报战败求救的，虞世基都扣减奏章内容，不据实上报，只说：“不过是些小偷小摸，郡县正在追捕，很快就会消灭干净，希望陛下不要放在心上。”炀帝对此深信不疑，有时还杖打上报的使者，认为他们谎报军情，因此盗贼遍布天下，攻陷郡县，炀帝都不知道。杨义臣打败收降河北盗贼几十万人，列状上报，炀帝感叹说：“我当初没听说，盗贼竟然多到这种地步，杨义臣收降的盗贼怎么这么多！”虞世基回答说：“小盗贼虽然多，但不值得忧虑。杨义臣打败了他们，手握不少兵力，长期在外带兵，这最不合适。”炀帝说：“你说得对。”立刻召回杨义臣，遣散他的军队，盗贼因此再次兴盛起来。
治书侍御史韦云起弹劾上奏：“虞世基和御史大夫裴蕴执掌朝廷机要，负责维持内外事务，四方发生变故，却不上奏告知。盗贼数量其实很多，他们却减少上报的数量，陛下既然听说盗贼少，派遣的军队就不多，双方兵力悬殊，前去讨伐都不能取胜，因此导致官军失利，盗贼势力日益滋长。请将他们交给有关部门治罪。”大理卿郑善果上奏说：“韦云起诋毁名臣，所说的话不真实，诽谤朝政，擅自作威作福。”因此韦云起被降职为大理司直。
炀帝到达江都后，江淮地区前来拜见的郡县官员，炀帝只问进献的礼物是否丰厚，礼物丰厚的就破格提拔为郡丞、郡守，礼物微薄的就大多被停职罢免。江都郡丞王世充进献铜镜屏风，被升任为通守；历阳郡丞赵元楷进献珍奇美味，被升任为江都郡丞。因此郡县官员争相盘剥百姓，来充实进献的礼物。百姓在外被盗贼劫掠，在内被郡县征收赋税，生活无以为继；再加上饥荒没有食物，百姓开始采摘树皮树叶，或者将稻草捣成粉末，或者煮土吃，各种能吃的东西都吃完后，就互相残杀为食；而官府的粮食仍然充足，官吏都畏惧法令，没人敢开仓救济。王世充暗中为炀帝挑选江淮民间的美女进献，因此更加受宠。
河间盗贼首领格谦拥有十多万部众，占据豆子，自称燕王，炀帝命令王世充领兵讨伐并斩杀了他。格谦的部将勃海人高开道收编残余部众，在燕地劫掠，军势再次振作。
起初，炀帝谋划讨伐高丽，武器物资都囤积在涿郡；涿郡人口众多、物产丰富，驻扎着几万士兵。另外，临朔宫有很多珍宝，各路盗贼争相前来劫掠；留守官员虎贲郎将赵什住等人无法抵御，只有虎贲郎将云阳人罗艺独自出战，前后打败盗贼很多次，威名日益深重，赵什住等人暗中嫉妒他。罗艺准备发动叛乱，先散布言论激怒部众说：“我们讨伐盗贼多次立功，城中仓库里的物资堆积如山，却由留守官员掌控，不肯散发救济贫苦百姓，这怎么能勉励将士！”部众都心怀愤怒怨恨。军队返回时，郡丞出城迎接罗艺，罗艺趁机将他逮捕，率领士兵入城。赵什住等人害怕，都前来听从命令，罗艺于是打开仓库，将物资赏赐给战士，开仓放粮救济贫苦百姓，境内百姓都很高兴；杀死了不服从自己的勃海太守唐祎等人，威名震动燕地，柳城、怀远都归附了他。罗艺罢免柳城太守杨林甫，将柳城郡改为营州，任命襄平太守邓暠为总管，罗艺自称幽州总管。
突厥多次侵犯北方边境。炀帝下诏让晋阳留守李渊率领太原道的军队与马邑太守王仁恭攻打突厥。当时突厥正强盛，两支军队的兵力加起来不到五千人，王仁恭为此担忧。李渊挑选两千名擅长骑马射箭的士兵，让他们的饮食起居完全像突厥人一样，有时与突厥人相遇，就趁机袭击