黃百韜兵團全軍覆滅後，國民黨邱清泉第二兵團和李彌第十三兵團開始向徐州收縮。李延年第六兵團、劉汝明第八兵團仍位於任橋、花莊集地區。隻有黃維第十二兵團則繼續沿蒙城至宿縣公路兩側向宿縣推進。
24日，蔣介石為改變徐州孤立的不利態勢，並在必要時便於徐州蔣軍南撤，召集劉峙、杜聿明到南京開軍事會議，“決定徐州方麵以主力向符離集進攻，第六兵團及第十二兵團向宿縣進攻，以便南北夾擊，打通徐蚌同津浦路的交通”。並特派參謀總長顧祝同到蚌埠指揮南線兩路國民黨軍作戰。
毛澤東和中央軍委在圍殲黃百韜兵團的過程中，多次考慮下一步打誰的問題。當時有3個目標可供選擇：一是徐州及其周圍地區的的邱清泉、李彌、孫元良3個兵團；二是蚌埠及其以北地區的李延年、劉汝明兩個兵團；三是趙集地區的黃維兵團。中央軍委曾考慮在殲滅黃百韜兵團後，“如能精心組織戰鬥，再殲邱、李四五個師，打得邱、李不能動彈”，從而奪取徐州。
但總前委劉伯承、陳毅、鄧小平在研究戰場情況後，於19日向中央軍委建議：“據我們觀察，殲黃百韜使用了華野6個較能攻堅的縱隊，曆時已12晝夜尚未解決戰鬥。如再以其餘部隊，其中隻有兩三個較能攻堅縱隊，加以部隊必已相當疲憊，刀鋒似已略形鈍挫，以之殲擊較黃（百韜）為強的邱、李誠非易事。我們認為徐海作戰必須從三五個月著眼，必須分作三四個戰役階段，每階段都需要有休息，整補俘兵，才能保證必勝。因此，在目前情況下，特別是李延年、黃維北進的條件下，最好力爭迅速殲滅黃百韜，爾後即將主力集中於徐東、徐南，監視邱、李、孫3兵團，爭取休息十天半月，同時以尚未使用之5個縱隊或3個縱隊用於南線，協同我們殲擊黃維、李延年，這個步驟最為穩當。”
23日，總前委又根據李延年、劉汝明兩兵團遲遲不進，黃維兵團已進至南坪集，與我中原野戰軍接戰，且該敵遠道而來，兵疲糧缺，又與宿縣、蚌埠有相當距離，孤軍突出等情況，認為殲擊黃維之時機甚好，向中央軍委再次建議以中原野戰軍全部及華東野戰軍一部先殲滅黃維兵團，以華東野戰軍主力阻擊徐州和固鎮增援之敵，並爭取殲滅李延年、劉汝明兵團各一部。
24日，毛澤東為中央軍委起草給總前委劉陳鄧的複電中指出：“（1） 完全同意先打黃維；（2）望粟陳張遵劉陳鄧部署，派必要兵力參加打黃維；（3）情況緊急時機，一切由劉陳鄧臨機處置，不要請示。”
25日，總前委劉陳鄧致電粟裕等，請華東野戰軍令南下各縱隊兼程前進。指出：“我一、二、三、六縱隊由西向東出擊，正在南坪集、蘆溝集之線與敵激戰中。此著出敵意外，公路以東敵人後方非常紊亂，蘆溝集及附近我已控製。黃維兵團部原在南坪集、刻正向東轉移。同時黃維以十軍、十四軍、十八軍主力向我朱口、半埠店、丁樓、大小王莊之線四、九縱陣地猛攻，企圖打開宿縣通路。”“請令各縱隊兼程南進，主力（包括六縱，不包括王張縱）控製宿縣，桃園集、蘄縣集及其西南二十五裏營集之線（線上均屬華野），置重點於桃園集、蘄縣集以東地區，並控製宿縣、水池鋪沿鐵路線待機作戰。或參加打黃維；或消滅李延年西援之敵，視情況決定。”
當日粟裕等複電總前委，堅決表示：“我們完全擁護先集中力量殲滅黃維的作戰方針。”並作了如下部署：一是以六縱一部控製宿縣，主力盡量向東推進，堅決阻擊李、劉兵團可能由固鎮河以南向西增援；二是除王張縱歸建中原野戰軍指揮外，派3個縱隊加入對黃維的作戰；三是以8個縱隊留北線負全責阻擊敵邱清泉、李彌、孫元良兵團的增援。這樣，不僅上下一致確定了先打黃維兵團的方針，而且在兵力上作了具體部署。