军；萧摩诃是陈朝的旧将，两人都不得志，常常郁郁寡欢，图谋作乱，都受到杨谅的亲近信任，参与他的阴谋。
恰逢火星停留在东井星宿的位置，仪曹邺人傅奕通晓星象历法，杨谅问他：“这是什么征兆？”傅奕回答：“天上的东井星宿，是黄道经过的地方，火星经过那里是正常现象；如果火星进入地上的井中，才是怪事。”杨谅听后不高兴。
文帝去世后，炀帝派车骑将军屈突通拿着文帝的玺书征召杨谅。此前，文帝曾与杨谅秘密约定：“如果玺书征召你，‘敕’字旁边会另外加一点，并且与玉麟符相合，你才可以应召前来。”杨谅打开玺书，发现没有约定的标记，就知道情况有变。他责问屈突通，屈突通言辞坚定，不屈不挠，杨谅便把他放回长安。随后，杨谅起兵反叛。
总管司马安定人皇甫诞极力劝谏，杨谅不听。皇甫诞流泪说：“我预料大王的兵力物资无法与京城对抗；况且君臣名分已定，逆顺之势悬殊，兵马虽然精锐，却也难以取胜。一旦陷入叛逆的境地，触犯刑法，即使想做平民百姓也不可能了。”杨谅大怒，命人把他囚禁起来。
岚州刺史乔钟葵准备响应杨谅，他的司马京兆人陶模反对说：“汉王图谋不轨，您蒙受国家厚恩，应当竭诚效命，怎么能成为祸乱的根源呢！”乔钟葵脸色大变说：“司马你要反叛吗！”于是用兵器威胁他，陶模却言辞不屈，乔钟葵被他的忠义打动，释放了他。军吏说：“如果不杀陶模，就无法稳定军心。”于是又把陶模囚禁起来。当时追随杨谅反叛的共有十九个州。
王頍劝说杨谅：“大王部下的将领官吏，家属都在关西，如果任用这些人，就应该长驱直入，直接占据京城，这就是所谓的迅雷不及掩耳；如果只想割据原来北齐的地盘，就应该任用关东人。”杨谅犹豫不决，于是同时采用两种策略，宣称杨素谋反，要诛杀他。
总管府兵曹闻喜人裴文安劝说杨谅：“井陉以西的地区都在大王掌控之中，关东的兵马也归我们所有，应该全部征发；分派弱兵驻守要害之地，再命令将领们相机夺取土地，率领精锐部队直攻蒲津。我请求担任前锋，大王率领大军随后跟进，行动迅速如雷，进驻霸上。咸阳以东的地区，挥手之间就能平定。京城震动骚乱，军队来不及集结，上下相互猜疑，民心离散；我们陈列军队发布号令，谁敢不从！十天之内，就能平定天下。”杨谅非常高兴，于是派他任命的大将军余公理从太谷出兵，奔赴河阳；大将军綦良从滏口出兵，奔赴黎阳；大将军刘建从井陉出兵，夺取燕、赵之地；柱国乔钟葵从雁门出兵；任命裴文安为柱国，与柱国纥单贵、王聃等人直指京城。
炀帝任命右武卫将军洛阳人丘和为蒲州刺史，镇守蒲津。杨谅挑选数百名精锐骑兵，戴上羃（古代遮面的帽子），谎称是杨谅的宫女返回长安，城门守卫没有察觉，他们径直进入蒲州，城中的豪杰也有响应的；丘和发现变故，翻墙逃回长安。蒲州长史勃海人高义明、司马北平人荣毘都被反叛者抓获。裴文安等人距离蒲津还有一百多里时，杨谅突然改变计划，命令纥单贵拆断河桥，驻守蒲州，召回裴文安。裴文安回来后对杨谅说：“用兵贵在神速，本来想出其不意。大王既然不再进军，我又中途返回，让对方计谋得逞，大事就完了。”杨谅没有回应。他任命王聃为蒲州刺史，裴文安为晋州刺史，薛粹为绛州刺史，梁菩萨为潞州刺史，韦道正为韩州刺史，张伯英为泽州刺史。代州总管天水人李景发兵抵抗杨谅，杨谅派将领刘暠袭击李景，李景反击并斩杀了刘暠。杨谅又派乔钟葵率领三万精锐部队攻打李景，李景的士兵不过数千人，加上城池不坚固，在乔钟葵的进攻下，城墙接连崩塌，李景一边作战一边修补城墙，士兵们都殊死搏斗，乔钟葵多次战败。司马冯孝慈、司法吕玉都骁勇善战，仪同三司侯莫陈乂善于谋划，精通防御战术，李景知道这三个人可用，就真诚信任他们，自己不干预具体事务，只在府中坐镇，时常安抚士兵。
杨素率领五千轻骑兵袭击蒲州的王聃、纥单贵，夜里抵达黄河边，征集了数百艘商人的船只，船内装满草，士兵踩在上面没有声音，于是口中衔枚渡河；黎明时分，发起进攻，纥单贵战败逃走，王聃恐惧，献城投降。炀帝下诏召杨素回朝。起初，杨素出发前，预计打败叛军的日期，都和实际情况一致，于是炀帝任命杨素为并州道行军总管、河北道安抚大使，率领数万人讨伐杨谅。
杨谅刚起兵时，他妃子的哥哥豆卢毓担任府主簿，苦苦劝谏，杨谅不听。豆卢毓私下对弟弟豆卢懿说：“我单人匹马返回朝廷，自然能免祸，这是为了自身考虑，不是为了国家。不如暂且假装顺从他，慢慢等待时机。”豆卢毓是豆卢积的儿子。豆卢毓的哥哥、显州刺史豆卢贤对炀帝说：“我弟弟豆卢毓一向有志向气节，一定不会跟随叛乱，只是被凶威逼迫，无法自主。我请求参军，与豆卢毓里应外合，平定杨谅不在话下。”炀帝同意了。豆卢贤秘密派家人送敕书到豆卢毓那里，与他商议对策。
杨谅出城前往介州，命令豆卢毓与总管属朱涛留守。豆卢毓对朱涛说：“汉王谋反，很快就会失败，我们怎么能坐以待毙，辜负国家呢！