泰山賊一直是很特殊的存在，他們以泰山郡為中心，以青、徐兩州的山海地段為基礎。既反抗官府，又抄掠百姓，並參與鎮壓當時的黃巾起義，是在特殊地區形成的特殊勢力。他們數量眾多，人員繁雜，彼此之間，既相互對抗又相互合作。
在這些支係繁多的泰山賊之中，有兩股勢力最為強大，也最為引人注意。一個是以臧霸為首，另一支是以昌豨為主。曹操占據豫、兗兩州之後，對他們采取的是分化拉攏的措施，既防備又利用。其中，曹操最大的收獲是讓臧霸攜眾歸附，並全力支持於他。而昌豨則被曹操任命為東海太守，成為割據一方的諸侯。
曹操尚未平定袁氏，極其拉攏臧霸，甚至將青州的一切事務全權委托給他。而臧霸感恩戴德，對曹操言聽計從，此刻已經完全屬於曹軍的一支。而昌豨雖然歸降曹操，卻對他的命令陽奉陰違，時時謀求自立。曹操雖然不滿，卻沒有對其過多限製，畢竟在平定袁氏之前，他不願在徐州再開戰事。
而昌豨知道，一旦袁氏被滅，曹操的下一個目標很有可能就是自己。這次呂布出征下邳，遣陳矯為使，向他許下了一旦占據徐州便允許他割據東海，並贈送他五百精鎧的許諾。他因而最終果斷舍棄曹操，選擇與呂布合作。
而此刻，呂布占據了下邳，逐步將徐州南部和徐州東部的諸縣全部收入囊中。徐州治下分別有三郡三國，三郡分別為東莞郡、下邳郡、廣陵郡，三國為琅琊國、彭城國以及東海國。在這六個郡國之中，廣陵郡和下邳郡已經被呂布所占，東海國大部被昌豨所占，隻有於禁緊守開陽，阻斷了昌豨前往彭城之路。
位於徐州北部東莞郡和琅琊國本就沒有多少兵力，緊急向臧霸求援。臧霸鎮守青州，兵力卻不滿萬人，還要防備來自青州北部袁譚的時時侵襲。他思考之後，以吳敦、孫觀為將，各率千餘人支援兩郡，艱難阻擋住了來自昌豨的進攻，守住了兩郡治所。但兩郡之中，卻有不少縣落入了昌豨手中。
李典從豫州調來不少兵員，進駐彭城，助呂虔堅守。而顏良率兩千騎兵，進入開陽，以助於禁對抗昌豨。此刻的昌豨才真正感到恐懼，派出使者前往下邳，向呂布求援。
呂布汝南大敗之後，汝南郡已經全被曹軍所占，而在九江郡的兵力也僅能自守。張遼帶三千士卒前往合肥，出兵北上，收服了幾個曹軍還未完全掌握的縣城。但兵力的限製，讓接下去的一切都變的舉步維艱。
呂布去信和陳宮、魯肅商議之後，最終決定從丹陽郡調來三千還未完全訓練完成的山越步卒。同時，讓呂岱暫時放棄對交州的圖謀，調兩千士卒前往秣陵，然後再從秣陵前往江淮。在此期間，廖化將廬江水兵的指揮權交給徐盛，也率一部人馬前往淮河，以協助防守。
張遼的想法是繼續北上，以趁曹軍還未完全穩定諸縣，趁機收服汝南南部。而在昌豨請求援兵之後，漸漸出現了不同的意見。諸葛亮提出了暫時放棄汝南，襄助昌豨，逐步吞並徐州的計劃。
張遼駁斥諸葛亮道：“汝南地處平原，境內有汝水和穎水兩條河流。除此之外，並無可以堅守的險要之地，所能依仗的也隻有城池的堅固。此刻曹軍雖然占據汝南諸縣，但我軍在此經營多時，百姓大多心向我軍。隻要兵臨城下，再加上城內百姓的支持，便可逐漸收複它們。而一旦給予曹軍更多的時日，他們便可完全能控製住那些縣城，再想拿回就要困難的多。而昌豨占據東海國，那裏地勢險要，再加上他本人據險而守。曹軍就是再多，恐怕短時間內也奈何不了他。況且，我軍為何要支援於他？昌豨本人狡詐多變，也並非完全歸順我們，何不讓他和曹軍硬拚到底？而我軍到時候再坐收漁翁之利。”
張遼為軍中宿將，他的意見代表了大多數軍將的意見，包括太史慈、魏續等大部分將領都站在他這一邊。
諸葛亮抬頭看向呂布，後者輕輕笑道：“別看我，我也比較支持文遠的意見。雖然我知道昌豨未必是於禁的對手，但我亦有意讓他牽製曹軍。以他的實力，隻要曹操大軍不來，堅守一段時間肯定沒有任何問題。況且，讓昌豨實力不損，好像對於我軍也沒有什麼好處。”
諸葛亮沉默了一會，說道：“主公，就如張將軍所言，昌豨此人狡詐多變，並不可信。昔日，我軍以五百精鎧換取他牽製於禁。目前，曹操大軍雖未返回，但於禁、顏良在開陽仍然會給他帶來無窮的壓力。如若此時，曹操再給予他更多的許諾，難免昌豨不會再次投入曹軍。他是一個小人，但在曹操尚未平定袁氏，而我軍又沒有足夠的實力攻取徐州之前，他是我們雙方必須拉攏的對象。如若我軍此刻放棄支援昌豨，他在很短時間內就會謀求與曹操講和，而這種局麵顯然不是我軍想要的。”