族。”杨玄感对此颇为了解，而且自认为家族世代显贵，朝中文武大臣大多是父亲的旧部下，看到朝政日益混乱，而炀帝又多猜忌，内心感到不安，于是与弟弟们暗中谋划作乱。炀帝正忙于征伐高丽，杨玄感主动请求说：“我家世世代代蒙受国家恩惠，愿意担任将领出征。”炀帝高兴地说：“将门一定有将才，相门一定有相才，果然名不虚传！”从此对杨玄感的宠信日益深厚，让他参与朝政。
炀帝讨伐高丽，命令杨玄感在黎阳督运粮草，杨玄感于是与虎贲郎将王仲伯、汲郡赞治赵怀义等人谋划，故意拖延漕运，不按时进发，想要让渡过辽水的各路军队缺乏粮食；炀帝派遣使者催促，杨玄感声称水路有很多盗贼，不能前后一起进发。杨玄感的弟弟虎贲郎将杨玄纵、鹰扬郎将杨万石，都跟随炀帝前往辽东，杨玄感暗中派人召回他们，二人都逃了回来。杨万石到达高阳时，被监事许华抓获，在涿郡斩首。
当时右骁卫大将军来护儿率领水军从东莱将要入海进军平壤，杨玄感派遣家奴伪装成从东方来的使者，谎称来护儿谋反。六月乙巳日，杨玄感进入黎阳，关闭城门，大肆搜捕成年男子，用帆布制作头盔和铠甲，设置官属，全部依照开皇年间的旧制。他向附近各郡发送文书，以讨伐来护儿为名，命令各郡发兵到黎阳仓集合。郡县中能干的官员，杨玄感都以运粮为由将他们召集过来，任命赵怀义为卫州刺史，东光县尉元务本为黎州刺史，河内郡主簿唐祎为怀州刺史。
治书侍御史游元在黎阳督运粮草，杨玄感对他说：“暴君肆虐，身陷异域，这是上天要灭亡他的时候。我如今亲自率领义兵诛杀无道之君，你意下如何？”游元神色严肃地说：“令尊蒙受国家的宠信，近古以来无人能比。你们兄弟都身居高位，本应当竭诚尽节报答皇恩。没想到令尊坟土还未干，你就亲自图谋反叛！我只有一死而已，不敢听从你的命令！”杨玄感发怒将他囚禁，多次用兵器威胁，游元始终不屈服，于是杨玄感将他杀死。游元是游明根的孙子。
杨玄感挑选年轻力壮的运夫五千余人，丹杨、宣城的船夫三千余人，杀牛、羊、猪三牲誓师，并且晓谕众人说：“主上无道，不把百姓放在心上，天下动荡不安，死在辽东的人数以万计。如今我与各位起兵，来解救百姓的危难，怎么样？”众人都踊跃欢呼万岁。于是杨玄感部署军队。唐祎从杨玄感那里逃回河内郡。
此前杨玄感暗中派遣家僮前往长安，召李密和弟弟杨玄挺前往黎阳。等到起兵时，李密恰好赶到，杨玄感非常高兴，将他视为谋主，对李密说：“你一直以拯救天下为己任，如今正是时候！有什么计策？”李密说：“天子出征，远在辽东之外，距离幽州还有千里之遥。南边有大海，北边有强大的突厥，中间只有一条道路，形势极为艰险。你率领军队出其不意，长驱直入蓟州，占据临渝关的险要之地，扼住隋军的咽喉。隋军归路被切断，高丽人得知后，一定会从后方追击。不出十天半个月，隋军的物资粮草就会耗尽，他们要么投降，要么溃散，不用作战就能擒获炀帝，这是上策。”杨玄感说：“再说说中策。”李密说：“关中地区四面险阻，是天府之国，虽然有卫文升镇守，但不足为惧。如今率领部众向西进军，沿途城池不攻，直接夺取长安。招揽那里的豪杰之士，安抚百姓，占据险要之地固守。天子即使返回，也失去了根基，可以慢慢图谋天下。”杨玄感说：“再说说下策。”李密说：“挑选精锐部队，日夜兼程，袭击东都洛阳，以号令天下。但恐怕唐祎已经告密，东都已经提前固守。如果率军进攻，一百天不能攻克，天下的军队从四面八方赶来，后果就不是我能预料的了。”杨玄感说：“不对，如今百官的家眷都在东都，如果先夺取洛阳，足以动摇他们的军心。而且沿途城池不攻克，怎么能显示军威！你的下策，正是我的上策。”于是率领军队向洛阳进发，派遣杨玄挺率领一千名骁勇士兵作为前锋，先夺取河内郡。唐祎据城坚守，杨玄挺一无所获。
唐祎又派人告知东都的越王杨侗与樊子盖等人，让他们整兵防备，修武县的百姓也纷纷据守临清关。杨玄感无法通过，于是在汲郡南边渡过黄河，跟随他的人络绎不绝，如同集市一般。他派弟弟杨积善率领三千士兵从偃师南边沿着洛水向西进军，杨玄挺从白司马坂越过邙山向南进军，杨玄感率领三千余人跟随在后面，相距约十里，自称大军。他的士兵都手持单刀和柳木盾牌，没有弓箭和铠甲。东都派遣河南县令达奚善意率领五千精锐士兵抵御杨积善，将作监、河南赞治裴弘策率领八千人抵御杨玄挺。达奚善意渡过洛水南岸，在汉王寺扎营；第二天，杨积善的军队赶到，达奚善意的军队不战自溃，铠甲兵器都被杨积善缴获。裴弘策出兵到白司马坂，一战即败，逃走时丢弃了大半铠甲兵器，杨玄挺也不追击。裴弘策撤退三四里，收集溃散的士兵，再次摆好军阵等待杨玄挺；杨玄挺缓缓赶到，休息了很久，突然发起攻击，裴弘策又战败，这样连续五次交战都以裴弘策失败告终。丙辰日，杨玄挺直抵洛阳太阳门，裴弘策只剩下十余骑兵逃回宫城，其余士兵全部归降杨玄感。
杨玄感驻扎在上春门，每次誓师都对众人说