、中原，自己即使在北方发展，也没有多少发展力量的空间。相反，江南一带，相对比较平静，自己到了那里，或许会有很多的机会。因此，杜伏威决定，前往南方发展。
就这样，杜伏威率领部众，南下进入江淮地区，开始转战淮南，自称将军，发展军事势力，由此开启了他一生事业的新起点。来到江淮之后，杜伏威着手发展力量，准备兼并当地的一些武装力量，扩充兵力。很快，杜伏威便锁定了一个目标，盘踞在江苏下邳的起义军领袖苗海潮。
苗海潮是下邳的一位农民起义军首领，在此地聚众为盗，实力不算强，也不算弱。但毕竟，麻雀虽小，也是口肉。如若兼并苗海潮所部兵马，那将是杜伏威南下之后赚取的“第一桶金”。不过，杜伏威并不想以武力征服，而是想要不战而屈人之兵。于是，杜伏威指派好友辅公祏，派人前去威胁、恫吓苗海潮：
今同苦隋政，各兴大义，力分势弱，常恐见擒，何不合以为强，则不患隋军相制。若公能为主，吾当敬从，自揆不堪，可来听命，不则一战以决雄雌。（《旧唐书·杜伏威传》）
听完辅公祏的一番恐吓，苗海潮心里七上八下，他认为，自己绝不是杜伏威的对手。与其到时候被打得元气大伤，倒不如认清形势。因此，苗海潮二话没说，当即率领所部人马，向杜伏威投降。因而，杜伏威不费一兵一卒，不仅收降了一支起义军兵马，还兵不血刃地占领了下邳，既有了军队，又有了地盘。
下邳距离江都非常近，而江都则是隋王朝统治南方的核心城市。可以这样讲，除了西京长安、东都洛阳以外，江都就是隋朝的第三大首都。因此，杜伏威占领下邳，对江都构成威胁。当地隋朝守军，自然不能装聋作哑，必须要集结重兵，全力讨伐。刚刚崛起的杜伏威，即将面临进入江淮后的第一场恶仗。
大业九年（613年）十二月，隋朝江都留守派遣校尉宋颢，统领一队精兵，讨伐杜伏威。这是杜伏威第一次与隋军正面交锋，那么，杜伏威该如何应对隋军进攻呢？杜伏威想了一招，诱敌深入。
杜伏威利用隋军轻敌的心理，率部与隋军接战，佯装败北。宋颢一见杜伏威“败退”，立即指挥麾下步骑主力，在后紧追不舍。很快，杜伏威且战且退，便将隋军引入了一片芦苇荡中。等隋军进了芦苇荡，宋颢大吃一惊。原来，芦苇荡的犬牙交错，将隋军死死困住，步骑兵寸步难行。
就在此时，杜伏威一声令下，伏兵四起，利用上风风向，开始纵火攻击隋军。瞬间，芦苇荡变成了一片火海，不少隋军士兵皆葬身火海。杜伏威巧妙利用火攻，大破隋军，挫败了隋军的第一次围剿，大获全胜。
击败隋军不久后，杜伏威又布下陷阱，一举击杀了海陵贼帅赵破阵，并收降其部众，兵力再次得到扩充。杜伏威进入江淮后，先后逼降苗海潮、击败隋军、计杀赵破阵，实力逐渐发展起来，也引起了隋炀帝的注意：
海潮惧，即帅其众降之。伏威转掠淮南，自称将军，江都留守遣校尉宋颢讨之，伏威与战，阳为不胜，引颢众入葭苇中，因从上风纵火，颢众皆烧死。海陵贼帅赵破阵以伏威兵少，轻之，召与并力；伏威使公祏严兵居外，自与左右十人赍牛酒入谒，于座中杀破阵，并其众。（《资治通鉴》）
随即，隋炀帝派遣右御卫将军陈棱，统率八千精兵，征讨杜伏威。当时，杜伏威兵多，陈棱兵少。因此，陈棱采用坚壁清野的战术，固守营垒，不与杜伏威正面交锋。如此一来，双方的军事态势，一时陷入胶着。
杜伏威一看，这样下去不行，必须迫使陈棱主动出战，然后将其一举歼灭。怎么办呢？杜伏威采用了一个老掉牙的办法：激将法。杜伏威效仿三国时期，诸葛亮智激司马懿的故伎，派人送给陈棱女人穿的衣服，企图激怒于他。并且，杜伏威还给陈棱致书一封，在信中大肆羞辱陈棱，直呼他为“陈姥”。
当然，陈棱没有司马懿的忍耐力，岂能受此大辱，顿时火冒三丈，非要扒了杜伏威的皮不可。于是，陈棱率军倾巢而出，向杜伏威的军队猛扑而来。杜伏威也不甘示弱，立刻挥兵迎战，两军展开了一场空前的厮杀。
虽然，杜伏威在兵力上占据优势。但是，隋军毕竟训练有素，装备精良。可想而知，这一战，双方打得异常辛苦，战况尤为惨烈。在作战当中，陈棱手下的一员部将，趁着杜伏威不备，弯弓搭箭，一箭射中了杜伏威的额头。杜伏威忍着剧痛，暴跳如雷，指着那员部将，怒骂道：“不杀汝，我终不拔箭。”
说完，杜伏威扬鞭策马，在隋军阵营中来回驰骋。那名偷袭杜伏威的陈棱部将，吓得四处逃窜。没有想到，杜伏威勇猛异常，深入隋军军阵，大呼冲击，所向披靡，终于，擒获了那名暗箭伤人的隋将。抓住这员隋将后，杜伏威当着他的面，强迫他为自己拔出箭镞，然后一刀斩了这名敌将。紧接着，杜伏威拎着此人的首级，重新杀入陈棱军中，反复奋力冲击，竟然连杀隋军数十人：
伏威逆拒，自出阵前挑战，棱部将射中其额，伏威怒，指之曰：