，士兵们都愿意为他效死，因此每次作战大多取胜，部众日益增多，达到十万人。卫文升寡不敌众，死伤大半，于是又进军驻扎在邙山之南，与杨玄感决战，一天之内交战十余次。恰逢杨玄挺中流箭而死，杨玄感的军队才稍稍退却。
秋季，七月癸未日，馀杭郡百姓刘元进起兵响应杨玄感。刘元进手长一尺多，手臂下垂能超过膝盖，自认为相貌非凡，暗中怀有异心。恰逢炀帝再次征发三吴地区的士兵讨伐高丽，三吴士兵都相互议论说：“往年天下全盛之时，我们的父兄出征高丽，尚且大半没能返回；如今国家已经衰败，又要去出征，我们这些人恐怕要全军覆没了！”因此很多人逃亡。郡县官府追捕得十分紧急，逃亡的人听说刘元进起兵，纷纷聚集到他麾下，十天一个月之间，部众就发展到数万人。
起初，杨玄感抵达东都洛阳，自认为天下会纷纷响应，成功指日可待。他俘获韦福嗣后，把他当作心腹重臣，不再专门信任李密。韦福嗣每次谋划计策，都模棱两可、持观望态度；李密揣测到他的心意，对杨玄感说：“韦福嗣本来就不是我们的同盟，实际上心怀观望。明公刚开始发动大事，身边就有奸人，听从他的是非判断，一定会被他耽误，请把他斩首！”杨玄感说：“何至于到这个地步！”李密退下后，对亲信说：“楚公（杨玄感封号）喜欢谋反却不想取胜，我们这些人如今要成为俘虏了！”
李子雄劝说杨玄感尽快称帝，杨玄感以此询问李密，李密说：“从前陈胜想要称王，张耳劝谏却被疏远；魏武帝想要谋求九锡之礼，荀彧反对却被诛杀。如今我要是直言劝谏，恐怕会重蹈这两个人的覆辙；如果阿谀奉承顺从你的意思，又不是我的本意。为什么呢？起兵以来，虽然多次取得胜利，但各个郡县并没有响应我们的；东都的防守仍然坚固，天下的援军越来越多，你应当奋勇作战，早日平定关中，却急于称帝，这不是向天下人显示自己的胸襟狭隘吗！”杨玄感笑着放弃了称帝的打算。
屈突通率领军队驻扎在河阳，宇文述随后赶到，杨玄感向李子雄询问计策，李子雄说：“屈突通熟悉军事，如果他一旦渡过黄河，胜负就难以预料了，不如分兵抵御他。屈突通不能渡河，那么樊子盖、卫文升就会失去援军。”杨玄感认为他说得对，准备率军抵御屈突通；樊子盖得知了他的计谋，多次进攻他的军营，使杨玄感无法前往河阳。屈突通渡过黄河，在破陵扎营。杨玄感把军队分成两部分，西边抵御卫文升，东边抵御屈突通。樊子盖又出兵与杨玄感大战，杨玄感的军队多次战败，他与党羽商议对策，李子雄说：“东都的援军越来越多，我们的军队多次战败，不能久留在这里，不如直接进入关中，打开永丰仓救济贫苦百姓，三辅地区可以轻易平定，占据府库，向东争夺天下，这也是霸王之业。”李密说：“弘化郡留守元弘嗣在陇右手握强兵，可以声称他谋反，派遣使者迎接你，趁机进入关中，这样可以欺骗众人。”
恰逢华阴郡的杨氏宗族请求担任向导，壬辰日，杨玄感解除对东都的包围，率领军队向西直奔潼关，宣称：“我已经攻破东都，现在要夺取关西了！”宇文述等各路军队追击他。抵达弘农宫时，当地父老拦住杨玄感劝说道：“弘农宫城空虚，又储存了很多粮食，攻打它很容易攻克。”杨玄感认为说得对。弘农太守蔡王杨智积对下属说：“杨玄感听说大军即将赶到，想要向西图谋关中，如果他的计谋成功，就很难攻克他了；应当用计策牵制他，让他无法前进，不出十天，就可以将他擒获。”等到杨玄感的军队抵达城下，杨智积登上城墙辱骂他；杨玄感大怒，留下军队攻打弘农宫。李密劝谏说：“你现在欺骗众人向西进军，军事行动贵在神速，何况追兵即将赶到，怎么能停留呢！如果前进不能占据潼关，后退又没有地方坚守，大军一旦溃散，怎么能保全自己！”杨玄感不听，于是下令攻城，焚烧城门，杨智积在城内加大火势，杨玄感的士兵无法入城。攻打了三天没能攻克，才率领军队向西进发。抵达閺乡时，宇文述、卫文升、来护儿、屈突通等各路军队在皇天原追上了他。杨玄感登上盘豆，摆开军阵绵延五十里，边战边退，一天之内三次战败。八月壬寅日，杨玄感在董杜原摆开军阵，各路军队发起攻击，杨玄感大败，仅与十余名骑兵逃往上洛。追击的骑兵赶到，杨玄感大声呵斥，追兵都转身逃走。抵达葭芦戍时，杨玄感只与弟弟杨积善徒步逃跑，他自知无法幸免，对杨积善说：“我不能忍受被他人杀戮侮辱，你可以杀了我！”杨积善抽刀砍死杨玄感，随后自杀，但没有死，被追兵抓获，与杨玄感的首级一起送往炀帝的行宫。杨玄感的尸体在东都集市被车裂示众，三天后，又被切碎焚烧。杨玄感的弟弟杨玄奖担任义阳太守，想要前往投奔杨玄感，被郡丞周旋玉杀死；杨仁行担任朝请大夫，在长安被处死。
杨玄感包围东都时，梁郡百姓韩相国起兵响应他，杨玄感任命他为河南道元帅，十天一个月之间，部众发展到十余万人，劫掠郡县；抵达襄城时，听说杨玄感战败，部众逐渐溃散，韩相国被官吏抓获，首级被传送到东都。
炀帝因为元弘嗣是斛斯政的亲信，并且担任弘化郡留守，派遣卫尉少