虎贲郎将司马德戡是杨广的宠将，在江都混得不错，但还是想逃回关中。他拉着虎贲郎将元礼和杨广多年的贴身侍卫、直阁裴虔通两人一起密谋西归。三人又辗转拉上了内史舍人元敏、虎牙郎将赵行枢、勋侍杨士览等人同谋，商量怎么才能既避免杨广的追杀，又突破各地起义军的拦截，安全地逃回家去。司马德戡这个小团伙一开始还偷偷摸摸地聚会，后来人越聚越多，上头也没有过问，就堂而皇之地公开议论叛逃的事情了。
有一个宫女听到司马德戡一伙人的商议后，赶去报告萧皇后：“外间有人谋反。”萧皇后说：“你直接报告给皇上。”宫女就跑去向杨广汇报。杨广闻言大怒：“你一个宫女，知道什么国事，到处妖言惑众！”结果这个可怜的宫女被活活打死了。自此以后，宫中再也没人敢说外面的消息了——尽管太监宫女们都知道司马德戡等人的活动进展情况。
司马德戡一伙人商量来商量去，决定在大业十四年（618）三月十五日结伴西归。赵行枢和宇文智及的交情很深，而杨士览又是宇文智及的外甥，两个人就找他密谋，把司马德戡的决定全盘托出。
宇文智及想了想，说：“杨广虽然无道，威力尚在，你们擅自逃走，恐怕也会落得窦贤那样的下场。”
赵行枢二人忙问：“那如何是好？”
宇文智及神秘地说：“隋亡已成定局，方今英雄并起。我看同心西归者已达数万人之多，因行大事，此乃帝王之业也。”说完，他做了一个拔刀的手势。
赵行枢和杨士览面面相觑，傻了。他们敢成帮结队地开小差，谋划逃亡，但要说杀了杨广，推翻隋朝，他们还真没这个胆。愣了半天，赵行枢才说：“欲行大事，必有一主帅。我等几个，人微言轻，难当重任。看来只有宇文公兄弟，才能担此重任。”他把皮球踢给了宇文智及。
宇文智及暗暗高兴，表面却大惊失色，说：“这等重任，我还没有想过。我先前只是想和你们图谋救命罢了。”赵行枢就劝他答应，劝了良久，宇文智及说要找兄长宇文化及商量一下。赵行枢赶忙跑出来，把宇文智及的意思告诉司马德戡等人。大家觉得这个方法不错，直接干掉杨广，大张旗鼓地率领大部队回关中去，安全系数高，而且也威风。于是，司马德戡一伙人约上宇文智及，一起到宇文化及的住处，要推他为首，发动政变。
宇文化及早有谋反之心，当即答应了。于是，一个以宇文化及、司马德戡、裴虔通、宇文智及、赵行枢为核心的阴谋团体产生了，这个团体还包括鹰扬郎将孟景，内史舍人元敏，符玺郎李覆、牛方裕，千牛左右李孝本、弟弟李孝质，直长许弘仁、薛世良，城门郎唐奉义，医正张恺，等等。这份团体名单，几乎囊括了杨广身边各个部门、不同级别的大臣，可见杨广众叛亲离到了何种程度。
接着，司马德戡等人到处散布谣言，说杨广知道关中和其他北方将士们有心叛逃，准备了毒酒，计划借犒军的机会毒死大家，只留南方籍的将士。近卫官兵们本来就人心惶惶，很自然地相信了谣言，恐惧起来。恐惧情绪相互传染，使全军都有了谋反自救的念头。
大业十四年（618）三月初十日深夜，司马德戡、宇文智及等人率兵在江都东城放火，宣告起事。
杨广在宫中第一时间看到了火光，隐约听到宫外人声喧嚣，就叫贴身侍卫询问情况。裴虔通这天值班，谎称是城内草坊失火，军民正在救火。杨广还是晋王的时候，裴虔通就是杨广的侍卫，深受信任。听了裴虔通的谎话后，杨广不再在意火光，睡觉去了。
司马德戡集团逐渐控制了江都城，在五更时分杀入皇宫。皇宫守卫一触即溃，乱军直奔杨广的寝宫而去。杨广知道情况有变，换上普通服装逃到西阁躲藏起来。司马德戡没捉到杨广，拉过一个美人逼问。很快，美人告发了杨广的去处。校尉令狐行达持刀直入西阁，杨广知道自己被发现了，隔着窗子喝问：“你敢弑君？”
令狐行达被吓住了，说：“臣不敢。将士思归，臣等想奉迎陛下西归京师。”
