中國最高軍事當局令第五戰區集中兵力於徐州附近，準備再次聚殲日軍。日軍改以部分兵力在正麵牽製對方，主力向西迂回，企圖從側後包圍徐州，殲滅第五戰區主力。4月18日，日軍第10、第5師分別從山東嶧城（今屬棗莊）和臨沂西北的義堂地區南進，對守軍第2集團軍和第20、第3軍團及第27軍團第59軍實施牽製性進攻。守軍頑強抗擊，至月底，將日軍阻止在韓莊、邳縣（今邳州）和郯城一線。5月5日，日軍開始從南北兩個方麵向徐州西側迂回包圍。在南麵，第9、第13師從蚌埠地區分別沿北淝河、渦河西岸北進，至13日，陷蒙城、永城（屬河南）後，向江蘇蕭縣、碭山（今均屬安徽）進攻；第3師由蚌埠進入大營集地區，向宿縣（今宿州）進攻。在北麵，第16師由山東濟寧渡運河，至14日，連陷鄆城、單縣、金鄉、魚台後，向江蘇豐縣、碭山推進；第14師從河南濮陽南渡黃河，陷山東菏澤、曹縣後，直插河南蘭封（今蘭考）；同時，第10師將韓莊、台兒莊地區的作戰交由第114師接替後，在夏鎮附近渡過微山湖，向沛縣（屬江蘇）進攻。5月中旬，前方越來越慘烈的戰報不斷傳到武昌國民黨軍委會蔣介石的案前，徐州突然麵臨的嚴重危機，使他那因台兒莊的勝利衝得有點暈乎乎的大腦一下冷靜下來。蔣介石突然意識到：日軍的意圖是要圍殲徐州中國軍隊主力。若徐州那50個精銳師被日軍吃掉，我還抗什麼戰？蔣介石立即叫來何應欽、白崇禧、陳誠等人一塊研究策劃。日軍的企圖已經暴露，再死守徐州已不現實，何應欽等人亦主張趕緊突圍決定放棄徐州。蔣介石口授給李宗仁的十萬火急電令：
第5戰區司令長官李宗仁：軍委會著令你部力避決戰，撤離徐州，火速突圍。
一、顧祝同第24集團軍在蘇北，第69軍及海軍陸戰隊在魯中南原地堅持抗戰。
二、劉汝明第68軍為全軍後衛，掩護主力轉移。
三、第5戰區其餘各部，立即向豫皖邊區突圍……
16日，第五戰區命令各部隊分別向豫、皖邊界山區突圍。中國軍隊且戰且退，陣形不亂，按部就班地向西、向南撤退。日軍阻一處，中國軍隊衝一處，無所不破，大軍向河南南部及湖北北部集結，各路都相繼衝出重圍。為避免與優勢之敵作消耗戰，當各路敵軍向徐州步步合圍時，李宗仁令所部各路守軍，作稍事抵抗後，即相機撤向山區、湖沼地區，進行“化整為零”的遊擊戰，與敵人糾纏了月餘。5月18日黃昏，李宗仁與長官部官兵一應人員700餘人，乘夜色經宿縣、蒙城，越過敵之包圍圈移駐潢川。留守徐州城的劉汝明部在蕭縣一帶伏擊日軍第9師團，對日軍造成重大傷亡。日軍見中國軍隊大部已走，企圖於徐州城圍殲劉汝明部。劉汝明部佯作死守狀，及見各路大軍撤盡，根據蔣介石的命令，放棄徐州城，巧妙地跳出日軍數十萬大軍的重圍，安全轉移。敵軍不但沒有擊潰劉汝明部，甚至連一個上尉也沒有捉到。日軍的華中派遣軍的13師團一路殺來，發現李宗仁唱了一出空城計，又令一心想爭功的華北方麵軍大感挫折，日軍傷亡了萬餘人的代價，得到了一座空城。5月下旬，各路大軍按命令的路線，全部安全撤抵皖西、豫南地區。日軍沿隴海鐵路西進，6月6日占領開封。為阻止日軍前進，蔣介石9日下令在鄭州東北花園口附近炸開黃河大堤，河水經中牟、尉氏沿賈魯河南泛。日軍被迫向黃泛區以東地區撤退。會戰結束。