因而汉王杨谅在并州起兵勤王，标语是“杨素谋反，要诛杀他，以清君侧。”
按当时的环境来讲第一条路是最好的前程，因为杨谅造反就是要做天子嘛，要胜利的话只要在二哥杨广没有反应过来的环境下直接灭掉他，不然时候一久作为正统的天子杨广能够集结天下的力量来围歼本身；更何况杨谅起兵的标语是“诛杀杨素、清君侧”，如果不直接打都城如何能举起这忽悠人的“公理”大旗呢。
这杨谅实在就是被父母宠坏的孩子，在父母的宠坏下生出了不该有的野心，以是杨谅在真要反的时候也有点踌躇。但就在他踌躇的时候，有人撺掇他来了。谁撺掇呢？两个南边人，一个叫王?，一个叫萧摩诃。
获得杨谅兵变的动静，杨广立马派出杨素亲率雄师出征。杨素带领轻骑五千在蒲州攻击王聃、纥单贵。夜里，杨素率军到了河边，汇集了几百只商船，船内铺上很多草，踩上去没有声音。为制止鼓噪，杨素让兵士口中衔枚度过河，天快亮时，打击杨谅的军队。纥单贵败北逃脱，王聃惊骇，献城投降。夺回蒲州消弭了叛军对都城的直接威胁后，杨广下诏征召杨素返回。
裴文安的定见是非常务实的，固然说兼顾了夺权和盘据两端，但核情意义还是要夺权，并且另有详细可行的计划。杨谅一听，也很欢畅，就这么办。因而杨谅就委任裴文安为柱国，让他带领雄师，直奔蒲州去了。
“王所部将吏家眷，尽在关西，若用此等，即宜长驱深切，直据京都，所谓疾雷不及掩耳。若但欲盘据旧齐之地，宜任东人”。
回到都城的杨素被杨广任命为并州道行军总管、河北道安抚大使，杨广又采取了杨素的保举，之前江州刺史李子雄为上大将军，以左领军将军长孙晟为相州刺史，征集山东兵，与李子雄共同共同弹压杨谅叛军。李子雄又变更幽州兵步骑3万人，从井陉向西进犯杨谅部，在抱犊山(河北获鹿西)下击退了曾围攻隋军的刘建。当时，隋军在西线作战的李景被围困达一月之久。接到朝廷救围圣旨今后，朔州刺史杨义臣率步骑2万，夜出西陉与乔钟葵部比武，以军中牛、驴数干头埋没涧谷，及两军交兵，令士卒驱牛、驴疾进，同时鸣鼓，灰尘涨天，乔钟葵军觉得伏兵，崩溃，被击败。杨谅派赵子开率10余万雄师紧守高壁山关(今山西灵石南)，又被杨素击败。接连打败仗的杨谅非常惊骇，率雄师在蒿泽与杨素对抗。天降大雨，杨谅想退兵，王?劝谏：“杨素率军远道而来，兵马怠倦。大王率精锐军队主动反击，杨素必败。现在遇敌退走，别人会觉得大王胆怯，懊丧我军士气，强大仇敌声望，但愿大王必然不要撤退”。杨谅不听，退守清原。不战而退，军心大乱。两军对阵清原，杨谅率军主动进犯。两边共战死18000人。内心没底的杨谅再次撤兵，退守并州。杨素雄师跟进，围城进犯，杨谅无路再跑只好投降，至此杨谅的兵变结束。