其後的戰鬥中，羅文浪的部隊沒有撤退，最後與張靈甫的七十四師一道被解放軍殲滅，而他自己則成了眾多俘虜中的一員。
5月14日清晨．解放軍完成了對整編第七十四師的分割包圍，七十四師陷入絕境。李天霞的整編第八十三師，不但沒有向七十四師接近，反而率先向青陀寺方向撤退，靠近整編第六十四師，以圖自保。華東解放軍乘機逼近，以約兩個縱隊的兵力迂回蒙山西南，直向界牌、桃圩的後方圍攻，使得準備靠近張靈甫的整編第二十五師，第六十五師的左、後、右三方麵均受到威脅。那些部隊想接近張靈甫更困難了。16日下午4時，整編第七十四師被全殲於孟良崮。
張靈甫臨死之前，夥同指揮所裏的一群軍官製造了一場盡忠鬧劇。5月15日夜，華東野戰軍發起總攻，強大的炮火轟擊過後，解放軍從四麵八方向盂良崮攻來。七十四師隻剩下幾個山頭，仍在負隅頑抗。第二天下午2時，整編第七十四師全線崩潰，師、旅、團、營全部失去了通信聯絡。張靈甫見敗局已定，便先用無線電台向蔣介石報告，訴說友軍見死不救，尤其是“李天霞沒有遵照命令派出部隊掩護右側安全，乃為失敗的主因”，還將指揮所裏副師長以下、團長以上的軍官姓名報告蔣介石，說要“集體自殺，以報校長培育之恩”。
張靈甫話雖說得剛強，行動起來卻不果斷，副師長以下的其他國民黨軍官更是不甘心就此“殺身成仁”。正當他們吵吵鬧鬧作不出決斷時，解放軍戰士已經衝到了洞口。洞裏的衛士負隅頑抗，解放軍戰士隨即用衝鋒槍、手榴彈還擊，爾後順勢衝了進去。混戰中，張靈甫與一些軍官當即被打死，未死的不再反抗，高舉雙手做了解放軍的俘虜。
“王牌軍”整編第七十四師被殲，黃埔係大嘩，蔣介石亦十分惱怒，痛心疾首地說：“孟良崮的失敗，是我軍剿匪以來最可痛心最可惋惜的一件事。”王耀武表示：“對七十四師之失，有如喪父之痛。”蔣介石痛恨黃百韜、李天霞等未能救出張靈甫及七十四師，遂召開軍事檢討會查究責任。黃百韜為保全自己的頭顱，主動找到湯恩伯，聲稱一切責任由自己一人擔負，與湯無關。湯恩伯此時正苦於無法交代，見黃自願承擔責任，深深為之感動。在蔣介石召開的檢討會上，極力為黃洗刷，力陳張靈甫不聽指揮，驕傲自大，自作主張，才招致全師覆沒的後果。同時，顧祝同為顧全自己的麵子，在會前就指示黃百韜，到會上大膽報告當時張靈甫違抗命令、擅自行動的情形。黃經充分準備，在會上侃侃而談，義憤激昂地演講了兩小時之久，並謊稱自己部隊傷亡人數達16000多名。黃的演講有理有據，聽者無不為之動容。就這樣，黃最後隻得了個撤職留任的處分，免去了一場殺身之禍。李天霞素來“善於收拾敗後殘局”，這次也不例外，經過多方努力，最後也隻受了個處分。
三、亂槍擊斃張靈甫
華東野戰軍與國民黨軍隊激戰數日，至16日，全殲了蔣軍號稱“五大主力”之首的整編第七十四師，其師長張靈甫也一命嗚呼，命喪黃泉。
“運輸師長張靈甫，工作熱情又積極，運武器，送彈藥，慰問我參戰野戰軍……蔣介石的‘大紅人’，你替狗賣命見閻王……”5月16日，時值黃昏，解放軍戰士扛著戰利品；押著俘虜，一路哼著小調一隊一隊地走下山來。
此時，設在山下的華東野戰軍第四縱隊司令部指揮所裏仍在忙碌著，接線員頻頻接到各部隊打來的報捷電話，參謀人員忙於統計我軍傷亡情況和各部隊戰績。據一線部隊打來的電話稱：“張靈甫自殺了！張靈甫自殺了！”聽此消息，指揮所裏人頭攢動，指戰員們奔走相告，拍手稱快。被陶勇司令員稱為“小白臉”的保健醫生盛政權也情不自禁地狂呼著：“噢——，打勝仗了，張靈甫自殺了！”然而，有一個人沒有激動，他就是四縱隊司令員陶勇。
“是自殺嗎？”當戰鬥，前沿報捷的電話又一次打來時，陶勇一把抓過電話，緊鎖雙眉，操著濃重的安徽霍丘口音大聲詢問。
“報告司令員，是俘虜講的。”聽司令員問得嚴肅，電話那頭未敢肯定，隻是說出了消息的由來。
陶勇司令員沒有多說什麼，在指揮所裏走來走去，一支接一支地抽著香煙，室內煙霧騰騰。