后来这三支队伍更联合起来，共推刘元进为主，占据吴郡，自称为天子，设立百官。
隋炀帝派了大将吐万绪、鱼俱罗镇压，这二人都是身经百战的老将，镇压到年底，隋兵基本取得了胜利，击毙了管崇，并把刘元进和朱燮围困在建安。由于连续作战，将士劳累，这两员将领请求暂时休兵一段时间，不知是谁向隋炀帝进谗言，说该二人故意不进攻，有不臣之心。炀帝大怒，即刻将吐万绪、鱼俱罗二人撤职法办。
随后隋炀帝任命王世充指挥进攻刘元进，并在淮南征募了数万个新兵，交给王世充指挥。这批淮南兵后来成为王世充的子弟兵，是他起家的资本，王世充以生力军进攻刘元进、朱燮，连战皆捷，刘元进、朱燮先后战死，但仍有不少余部散在各处为盗。
王世充找了个黄道吉日，集合有关人员，到通玄寺的佛像前焚香立誓，约定投降者不杀。刘元进的余部听说之后，纷纷投降，不到一个月，王世充就平定了吴郡。不料王世充背信弃义，大局已定之后，王世充把所有投降的共三万多人全部给坑杀了。
齐郡的义军统帅孟让从山东长白山出发侵犯各个州郡，到了盱眙，发展到十多万人马。王世充率领部队抵御，以都梁山为据点，设置五道营栅，敌我相对而不交战，