杜聿明不禁對7年前楊廷宴“生動真實”的彙報心生疑竇。楊說劉鎮湘死了，陳士章不知下落，而現在劉、陳都活得好好的，那麼黃百韜是否真的“自戕”了呢？……再說碾莊圩國民黨軍七兵團兵團部被攻占後，新華社華東總分社社長康矛召親筆寫了一張條子，派偵察員飛馬送給隨軍采訪的記者黎明，要他“迅速查清黃百韜的下落”。戰爭年代，對國民黨高級將領，戰後都要求“活要見人，死要見屍”。可是黃百韜既未見其人，又未見其屍，他的下落究竟如何呢？黎明帶著兩名偵察員，花了一夜的工夫，查遍了黃百韜最後住過的大院上、吳莊等村子的所有部隊及國民黨軍俘虜，尋遍了所有的工事和殘存的房屋，仍未查到黃百韜的蹤跡。後來，黎明聽人說，黃百韜逃到小黃莊東北的曠野裏，撕碎了蔣介石最後空投給他的親筆信後，開槍自殺了。但黎明並未找到佐證，隻是聽說而已。1987年出版的、由軍事科學院軍事曆史研究部編著的《中國人民解放軍戰史》第三卷（全國解放戰爭時期）一書中說：“……黃百韜逃至大院上，繼續指揮殘部作垂死掙紮。我軍組織連續突擊，至22日黃昏殲滅殘敵，擊斃黃百韜。”
1996年由解放軍出版社出版的《中國人民解放軍第三野戰軍戰史》上說：“……20日晨攻占碾莊圩，聚殲兵團部和敵大部，黃百韜逃至大院上第六十四軍軍部繼續頑抗。21日晚，再度對六十四軍所駐大、小院上發起攻擊。至22日，全殲守敵，黃百韜斃命。”
據說，楊廷宴逃回南京後，將黃百韜死訊報告了國防部，並告知了黃百韜的家屬。他們即派人按楊廷宴所說地點，將黃百韜遺體挖出後運回南京。蔣介石下令為黃百韜舉行隆重的安葬儀式，追贈黃為陸軍上將，授予他“青天白日勳章”，以表彰黃對“黨國”的一片忠心。
那麼，當年黃百韜究竟是被擊斃，還是自殺？是逃跑途中跑不動了不願當俘虜而自殺，還是負了傷自知活不成了而自殺？是為“黨國”盡忠而自殺，還是撕碎了蔣介石的親筆信、滿懷著對蔣的怨恨而自殺？如果是被擊斃，具體細節又是如何呢？……看來，黃百韜的死因尚是一個未解之謎……60多年後的今天，在碾莊圩附近尤家湖西北曠野上，豎著一塊石碑，上書“中國人民解放軍擊中黃百韜遺址”，並有文字說明。而在南京的蔣王廟明朝岐陽王李文忠墓的後麵，築有一座“黃煥然之墓”，旁邊還樹牌寫有黃百韜的生平簡介。黃百韜的遺體於1949年1月17日運抵南京。國民黨《中央日報》於1月20日刊登了《首都各界“追悼”
黃故司令官百韜將軍暨“戡亂殉國”將士大會公告》：定於21日、22日、23日在中國殯儀館公祭3天。然而，國民黨政權已處於風雨飄搖之中，人民解放軍百萬雄師已推進至長江北岸，南京風聲鶴唳。蔣介石於1月21日宣告“引退”，下午4時匆匆飛離南京。許多軍政大員自顧不暇。
李宗仁出任代總統，忙於與中共開展和談。在此背景下，國民黨當局哪裏還顧得上黃百韜的“後事”，不僅“公祭”草草收場，“國葬”雲雲也就不了了之。