大业十二年(616年)七月，杨广因北方多事，不顾群臣反对，离开长安前往江都巡幸，杜伏威部正好就在江都眼皮子底下，为了保障皇帝巡幸的安全，隋派出虎牙郎将公孙上哲率军前往镇压，双方战于盐城(今江苏盐城)，公孙上哲军队被全歼，随后，隋朝又派大将陈棱带八千精锐讨伐杜，陈、杜多次交手，毕竟陈棱的军队训练和器械远强于杜，杜伏威军连连失利。但陈棱兵力不多，想剿灭杜伏威也不容易，双方打成僵持状态。

同年十二月，隋炀帝车驾到达江都，护驾骁果十余万人，声威赫赫。按理隋军应该军心大振，杜伏威难逃灭亡，不料正是杨广的到达给了杜伏威崛起的机会。

当年正好是大荒之年，老百姓本来就已走投无路，再加上被官府如此压榨，终于造成了一场大饥谨。据记载，老百姓先是吃树皮树叶，后煮土为食，“诸物皆尽，乃自相食”。又弄到了人吃人的程度，于是大量百姓揭竿而起，杜伏威乘机吸收了大批手下，势力迅速膨胀。

这时杜伏威与陈棱强弱之势已经倒转，于是主动向陈挑战。陈棱也知道战局不利，因此龟缩不出，任由杜伏威自己去耀武扬威。

杜伏威于是就用激将法，派使者给陈送了一套妇女衣裳，并给陈棱起了一个外号叫陈姥(就是陈老太太的意思)，到处宣扬，刺激陈棱。

陈棱怒火中烧，果然带领全军出战。这一仗打得十分激烈，杜伏威亲自上阵，不小心被一员隋将暗箭射中，杜怒吼说：“不杀了你，箭矢不拔！”

然后就直冲过去，把那吓呆了的射手斩于马下，又拿着那个弓箭手的首级连续杀了几十人，隋军士气大挫，被打得几乎全军覆没，陈棱单骑逃回江都去了。

杜伏威趁势扩大战果，占据了高邮、历阳等重镇，并在历阳自称总管，封辅公祏为长史。

这时的杜伏威吸取了以前的教训，从部队中挑选最精锐的士兵组成自己的卫队，称为 “上募”，兵力为五千人。

杜把“上募”作为自己的子弟兵，平时非常宠爱，但要求也非常严苛，每战必以“上募”为先锋，战后检查每人身上的伤痕。如伤在背后，即刻处斩，因为那表明其临阵退后。

每次战胜后，杜伏威都把抢掠到的资财赏给全军。如果手下战死，就以死者的财产甚至妻妾殉葬，因此杜所部皆为杜伏威尽死力，人自为战，所向无敌。

杜伏威号令所到之处，江淮间各路小起义军争相归附，郡县纷纷投降。杜伏威非常讨厌官员贪污，于是就下令凡官吏贪污者无论轻重一律处死，于是大得人心。

大业十四年(618年)，江都兵变，宇文化及弑杀杨广，委任杜伏威为历阳太守，杜伏威没有接受。同年，他向东都(今河南洛阳)越王杨侗，也就是皇泰主称臣，被封为楚王，拜东道大总管。

武德二年(619年)九月，李子通先下手为强，率主力围攻江都。陈棱兵微将寡，只得分别向杜伏威、沈法兴求救。因为陈棱此时也尊奉洛阳皇泰主，和杜伏威名义上成了一伙的了。

沈法兴是湖州武康(今浙江德清)人。

他出身于官宦世家，父亲沈恪，是南北朝时期陈朝的官吏，官至特进、广州刺史。

沈法兴在隋朝大业(605年-618年)末年，担任吴兴(今浙江湖州)郡守。当时，东阳农民起义军首领楼世干举兵反叛朝廷，攻城略地，隋炀帝杨广下诏命令沈法兴与太仆丞元佑一同讨伐楼世干。

义宁二年(618年)，宇文化及在江都(今江苏扬州)发动兵变，弑杀隋炀帝。

沈法兴自认为世居南方，家族世代都是郡中有声望的大姓，同姓宗族就有几千家，便与元佑的部将孙士汉、陈果仁擒住元佑，以诛讨宇文化及为名起兵。

三月，沈法兴从东阳出发，边行军边收集兵马，往江都趋进，攻下余杭郡(今浙江余杭区)，待进发到乌程(今浙江湖州)时，已拥有六万兵马。

毗陵(今江苏常州)通守路道德领兵抵御沈法兴，沈法兴与他约定连兵，借会盟之机袭杀路道德，进据毗陵城。

当时齐郡农民起义军首领乐伯通占据丹阳(今江苏丹阳)，为宇文化及守卫该城，沈法兴派遣陈果仁攻陷丹阳。于是沈发兴就占据了长江以南十几个郡，自称江南道总管，承制设置百官。

武德元年(618年)八月，沈法兴听闻越王杨侗即位，是为皇泰主，沈法兴便上书杨侗，自称大司马、录尚书事、天门公，承圣旨设置百官，任命陈果仁为司徒，孙士汉为司空，蒋元超为尚书左仆射，殷芊为尚书左丞，徐令言为尚书右丞，刘子翼为选部侍郎，李百药为府掾。