项羽闻汉王在宛，果引兵南。汉王坚壁不与战。是时彭越渡睢水，与项声、薛公战下邳，彭越大破楚军。项羽乃引兵东击彭越。汉王亦引兵北军成皋。
——《史记·高祖本纪》
刘邦逃回关中后，在萧何协助下于关中重新招募兵马。由于萧何治理关中卓有成效，再加上关中百姓痛恨项羽，又担心项羽残暴，击败刘邦后会再度血洗关中，因而积极踊跃参军，竟然让刘邦在月余时间内便重新招募了一支数万人的军队。
汉三年（前204年）六月，刘邦率领着这支新招募的军队，打算再度出关支援荥阳前线，然而就在出发前，一位姓辕的儒生（又称袁生）跑来找到刘邦，劝说道，“楚汉已在荥阳对峙数年，汉军却屡屡遭困，大王您这次如果继续自函谷关东出，对局势也不会有太大的帮助。”
正所谓“听人劝，吃饱饭”，刘邦这个人的优点就是善于听人劝，哪怕对方只是个没有担任任何官职的儒生，刘邦也愿意听其建议。
于是，刘邦便问道，“那依你之见，又该如何？”
辕生说道，“我建议大王您可以率兵南出武关，如此项羽必然率军南下，大王则深挖沟、高筑墙，坚守不出，将项羽大军吸引到南线，荥阳汉军便可得到休整。同时，大王可命韩信安抚河北赵地百姓，将赵地与燕国、齐国连成一片。如此一来，项羽必然要分兵防备，导致力量分散，而汉军却可以得到充分休整，等到时机成熟，各路大军齐动，楚军必败。”
辕生一番话犹如醍醐灌顶，立时便点醒了刘邦。项羽正面作战确实勇猛，可缺点就是手下人才匮乏，仅有的几人也难得重用。如果自己只是驻守一路，项羽也只需要猛攻一路，这简直就是在以己之短击敌之长，自己承受的压力自然极大。而如果让汉军兵分多路，楚军分兵之后人才稀少的短板就暴露了出来了；反之，自己麾下人才济济的优势则可以充分发挥，这才是以己之长击敌之短，或许战局也将因此而扭转。
想到这里，刘邦果断采纳了辕生的建议，率兵南出武关，屯兵于南阳郡的宛城与叶县之间，此地距离武关不远，可以确保后勤补给无忧，即便战事不利，也可退入宛城坚守，或者直接退回武关。
刘邦驻军于南阳后，在利用地形构筑防御工事的同时，又命英布返回九江地区收拢旧部。
正在围攻荥阳的项羽得知刘邦再度出关，果然率军自颍川郡南下攻打刘邦，然而刘邦却依靠防御工事坚守不出，项羽一时间也是无可奈何。
项羽率兵南下后，楚军对荥阳的攻势放缓，坚守荥阳一个多月的周苛总算是松了一口气，而城中早已疲惫不堪的汉军，至此也总算能喘口气了。
与此同时，“彭城之战”后被迫北撤至黄河沿岸活动的彭越，在恢复实力之后开始再度活跃于梁地，并趁着楚国后方兵力空虚的机会，竟然率军渡过泗水袭扰彭城以东地区，薛县县令薛公和留守九江的项声率兵前往迎战，结果反在下邳被彭越击败，薛公战死，项声败逃。
在前线的项羽得知消息，在荥阳和宛城两路汉军皆坚守不出，短期内根本拿对方没有办法的情况下，为免后院起火，只得先行率军向东攻打彭越，打算先行平靖后方。
刘邦得知项羽大军东返后，则立即率军自轩辕关北上，靳歙等赵地汉军则渡河南下，合力攻打被楚军占领的成皋，不久便击败了驻守成皋的楚军将领终公，重新夺取了成皋。收复成皋之后，荥阳防线重新得以稳固。
为了进一步削弱楚军，刘邦又命灌婴、靳歙率军渡河北上，统率骑兵深入楚军后方，切断楚军粮草供给。
灌婴、靳歙率军自平阴津北渡黄河，然后沿黄河北岸向东，绕过荥阳楚军后，又自延津南渡黄河，攻击荥阳至阳武之间的楚军粮道，之后一路向东进军，攻击阳武至襄邑（属砀郡）一线的楚军粮道，焚毁楚军粮草。至此灌婴仍不罢休，又利用骑兵的机动优势，袭扰彭城以北至鲁县一带，扰乱楚国大后方。
正在忙着追击彭越的项羽得知消息，着实吃了一惊，急派驻守鲁县的项冠前去迎战灌婴，同时派柘公王武切断灌婴的退路，王武便是在彭城之战后于外黄反叛刘邦的叛将，在被曹参击败后投奔项羽，被任命为柘县县令，故也称柘公。柘县位于砀郡和陈郡交界处，自此北上后便可切断灌婴来路。
灌婴率军直抵鲁县，项冠率兵出城迎战，双方于鲁城外一场大战，灌婴大败楚军，斩杀项冠麾下右司马、骑将各一人，项冠兵败逃回鲁城。
与此同时，王武自柘县出兵北上后，沿白马津和东郡燕县布置防线，试图阻止灌婴自白马津和孟津北渡黄河撤退。
击败项冠后，灌婴得知王武的布置后，便又回军攻打王武，于燕县以西大破王武，斩杀王武麾下楼烦将五人，连尹一人。随后灌婴又率兵折向东北方向的白马县，大败王武的别将桓婴，斩杀都尉一人。后得知项羽已经击败彭越，灌婴这才与靳歙率军夺取白马津，渡河西返。
灌婴这一通折腾，不仅切断了荥阳楚军后勤补给，使得荥阳城正面压力骤减，而且由于其先后从孟津和白马津渡河，以至于楚军不得不派遣军队驻守渡口，防止汉军再度渡河南下袭扰粮道。
项羽在得知项冠、王武两路楚军皆败，且刘邦已经重夺成皋后，也顾不上继续再追击彭越，连忙率军西进，得知灌婴已经渡河北撤后，便又率军回到了荥阳前线。
这次项羽想必已经怒急，回到荥阳前线后便立即出兵猛攻荥阳，虽然经过了一段时间的休整，荥阳城中的粮草得到了一定补给，士兵们紧绷的情绪也到了释放，但历经数月激战，城中守军伤亡实在不小，再加上这一次楚军的攻势明显猛烈了很多，荥阳城竟然不久便开始出现了被攻克的迹象。
同年八月，荥阳已经岌岌可危，城中人心动荡，汉将周苛为了防止内部生变，便找来枞公商议道，“魏豹此前多次倒戈，如今形势危急，难免他不会再生异心，不如将其除去。”枞公认为周苛说的不无道理，于是两人用计将魏豹诛杀。
不久，荥阳城破，守将周苛、枞公和城中的韩王韩信、惠侯孙赤等人尽皆被俘。
项羽对于独自坚守荥阳数月的周苛也是十分佩服，打算将其招揽至麾下，于是对周苛说道，“只要你为我带兵打仗，我不但让你出任上将军，而且会赐予你封邑三万户，如何？”
周苛却冷笑一声道，“我也劝你一句，还是赶紧投降汉王，如此或可保住荣华富贵，否则很快也会成为俘虏的。”
项羽听罢大怒，立即命人将周苛予以烹杀，与周苛一同守城的枞公也随之被杀，至于韩王信和惠侯孙赤则投降了楚军。后来，韩王信和孙赤又偷偷逃回了刘邦阵营，刘邦对韩王信倒是既往不咎，依旧封其为韩王，但作为刘邦部将的孙赤则被剥夺了爵位，只被任命为郎官。
项羽攻破荥阳后，得知刘邦仍驻军成皋，遂率军继续西进，准备乘胜攻占成皋、擒获刘邦。