逃出碾莊圩後，黃百韜率少數隨從逃到六十四軍軍部。六十四軍軍長名叫劉鎮湘，軍銜中將，軍部設在一個叫大院上的小村子裏。該軍和六十三軍同屬粵係，都是“老廣”，和黃百韜較為親近。
黃百韜和劉鎮湘見麵後，神情沮喪，臉色蠟黃，坐了很久沒有說話。吃了午飯以後，他對劉鎮湘說“：我年紀老了，而且多病，做俘虜我也走不動，而且太難為情。我‘犧牲’以後，別人還知道有忠心耿耿的國民黨人，或可使那些醉生夢死的人醒悟過來，國民黨或許還有希望。你年紀還輕，希望你能突出重圍，再為黨國作點事。”
這一年黃百韜已49歲，劉鎮湘比黃小7歲，尚屬42歲的壯年。他對黃百韜說了一些安慰的話，並表示，自己也決不當共軍的俘虜，死也要和黃百韜死在一起，共同為“黨國”盡忠。隨後，他還打開皮箱，把中將大禮服穿了起來，掛上勳章，穿上皮靴，對黃百韜和副軍長韋德、參謀長黃覺說：“我們要準備成仁，為黨國和總統盡忠。”
然而，螻蟻尚且惜命。22日下午，黃百韜、劉鎮湘等又逃到了六十四軍一五六師指揮所駐地吳莊。
第二十五軍中將軍長陳士章、少將副軍長楊廷宴等人也逃到了吳莊。黃百韜一聽“吳莊”這個村名，就長歎說：“此吳莊，乃吾葬身之地也！”因“吳莊”與“吾葬”係諧音，黃百韜頗有點迷信。他曾極其悲傷地對楊廷宴說：“這場大戰，我有3個不解：（1）我為什麼那麼傻，要在新安鎮等待四十四軍兩天；（2）我在新安鎮等了兩天之久，為什麼不知道在運河上架設浮橋；（3）李彌兵團既然以後要向東進攻來救援我，為什麼當初不在曹八集附近掩護我西撤？”
說罷，黃百韜不住地搖頭長歎，說：“不是天滅蔣（介石），而是蔣自滅呀！”
22日下午4點左右，解放軍對吳莊發動猛烈進攻。激戰至黃昏，全殲吳莊守敵，生俘六十四軍少將副軍長韋德和參謀長黃覺。
此時，黃百韜、劉鎮湘、陳士章、楊廷宴等人在哪裏呢？幾天後，杜聿明接見了從吳莊逃回徐州的第二十五軍少將副軍長楊廷宴。杜聿明問：“你知道黃（百韜）司令官的下落嗎？”
楊廷宴說：“22日那天晚上，天漆黑漆黑，黃司令官和陳士章、劉鎮湘兩位軍長見情勢危急，就各帶一部分人突圍。劉鎮湘佩上勳章，向敵人衝鋒，戰死了。陳士章不知下落。黃司令官和我兩人突出後，走到一茅棚附近，見四麵都有共軍包圍，無法再走，黃司令官即舉槍自殺，但並未斷氣，我又加了一槍。黃死後，我正在哭，共軍來盤問我，我說：我是夥夫，死了的是夥夫頭，是我哥哥。當時我倆都化裝成士兵，共軍沒有追究。我將黃司令官掩埋後，鑽空子跑了回來。”
當時，杜聿明聽楊廷宴說得非常生動真實，對黃百韜、劉鎮湘為“黨國”盡忠，感到十分敬佩。想不到過了7年後，杜聿明在北京功德林戰犯管理所突然見到了劉鎮湘和陳士章，一問，原來他倆和黃百韜從吳莊突圍後，都沒有死。劉鎮湘是當天晚上被俘的。陳士章則化裝逃回了南京，蔣介石又任命他為新組建的第二十五軍軍長，部隊開到福建布防，想不到又被解放軍所俘。