张灵甫一听此言，勃然大怒，破口大骂道：“他妈的！你李运良个狗东西，竟敢顶撞老子。老子是师长，还有权执行军纪！”边说边拔出手枪，对李运良“砰！砰！”开了两枪。说时迟那时陕，李运良眼疾身子灵，一闪身躲过了射来的子弹。指挥所里顿时乱了套，大家七嘴八舌劝张灵甫息怒，再作计议。16日中午，解放军的攻击部队已逼近了六○○高地七十四师指挥所。张灵甫急得如同热锅上的蚂蚁，他清醒地认识到突围已不可能。他铁青着脸对大家说：“不成功，便成仁！我们生不能完成校长的重托，如今只能集体成仁，以一死报效校长和党国栽培之恩。”
接着，张灵甫指定参谋处长刘立梓为“集体成仁”的执行人，命令他先开枪打死山洞内副师长以下、团长以上的所有军官，最后“自戕”。张灵甫亲笔起草了一份发给蒋介石的电报：蒋主席钧鉴：被围六昼夜，仅负伤高级将领及卫士有多人，且弹尽粮竭，援军不至，匪军已有九个纵队(二十七个师)重围，且继续驰援来犯，今职等誓愿成仁殉国，恳祈赐予家属抚恤以终。接着他还具体报告了指挥所内副师长以下、团长以上的人员名单。沉思片刻，张灵甫又提笔给妻子王玉龄写了一封绝命书：十余万之匪向我猛扑，今日战况更恶化，弹尽援绝，水粮俱无，我与仁杰，决以最后之弹饮诀成仁，上报国家与领袖，下答人民与部属。老父来京，未见痛极，望善待之。幼子望养育之。玉龄吾妻，今永诀矣！灵甫绝笔，五月十六日孟良崮。张灵甫闭了闭眼睛，喉头滚动了半天。突然，他把笔一摔，对刘立梓厉声命令道：“集体成仁，立即执行！”
话音刚落，副师长蔡仁杰从衣袋中掏出妻儿的照片，放声痛哭。五十八旅旅长卢醒也双手捂面饮泣起来。副参谋长李运良灵机一动，跑到洞口，在自己腮帮子上打了一枪，鲜血满脸。但他当然知道这一枪该怎么打，所以只擦破了一点皮。他乘机倒在地上，伪装“自戕”……张灵甫通过无线电台联络上了南京的蒋介石。他喘着粗气呼喊道：“南京，南京，蒋先生！”“你是谁？”那边传来冷冷的声音。“我是张灵甫。黄百韬不援助，李天霞见死不救。我已到了殉国的时候……”突然，无线电台“吱”
的一声中断了，张灵甫狠狠地摔掉了耳机。这时，五十七旅少将旅长陈嘘云走上前来，他平时和张灵甫私交不错，他没有“自戕”，向张灵甫附耳低言：“师座，留得青山在，不愁没柴烧啊！”
正在这节骨眼上，无线电报话员又向张灵甫报告：“师长，友邻二十五师电话通了，参谋长请你讲话。”
张灵甫眼睛一亮，心里陡然升起最后一线希望。他接过耳机，大声说：“你们在哪里？你们在哪里？好兄弟，救我们一把吧！你们再不上来，我们决心成仁了，成仁了，请转总部……”
“我们黄百韬师长在前面督战，快解你们围了，界牌快拿下了，快拿下了……”
“两小时之内，你们能解本师之围，本师全体官兵向贵师致敬……”
张灵甫话还没有说完，山洞口突然传来了解放军战士的大声喊话：“张灵甫，快投降吧！缴枪不杀！”
张灵甫身体一震，面色顿时如死灰，耳机从手上滑落，重重地摔在了地上……张灵甫无论如何也没有想到，他手下的参谋长魏振钺会向解放军“告密”。魏振钺毕业于中央军校第六期，是整编七十四师参谋长。但国民党军队中主官说了算，参谋长只是个幕僚，参赞军机而已。何况张灵甫狂妄自大，颐指气使，从不把参谋长放在眼里。对上孟良崮魏振钺是不同意的，但张灵甫压根儿就没有征询他的意见。更使魏振钺伤心的是，张灵甫见援兵不至，眼看濒临绝境之际，居然命令他亲自出马，率领近千名师部直属队人员向逼近指挥部的解放军进行反击。魏振钺心想：这不是明摆着让自己送死吗？！
然而军令如山，魏振钺不得不执行张灵甫的命令。华野第六纵队特务团的勇士，在副团长何凤山率领下，似出山猛虎向山顶冲来。那气势如泰山压顶，魏振钺所率近千人死的死，伤的伤，悉数被歼。魏振钺在生死攸关的危急时刻，当机立断，选择了一条生路。他主动举起了双手，对冲到面前的解放军说：“我是七十四师参谋长。”
何凤山见抓了个将军，大声喝问道：“张灵甫在哪里？”
魏振钺用手指指六○○高地上的一个山洞说：“张灵甫在洞里。”
早在开战之初，陈毅和中共华野前委就提出了“全歼七十四师，活捉张灵甫”的战斗号召。现在主攻目标明确，何凤山下令：“冲！”
特务团的勇士们风驰电掣般地直扑主峰。特务团三连攻至孟良崮山腰时，发现一个小小的山洞，洞外横卧着数具警卫模样的敌尸，因此判断此处可能就是张灵甫的指挥所。何凤山命令向洞内喊话。三连指导员邰至汉和战士们一起向洞口高喊：“张灵甫快投降！”喊声刚停，一梭子弹射向洞外，邰指导员和数名战士不幸中弹牺牲。三连官兵怒火冲天，手榴弹、机关枪、卡宾枪对着洞内一阵猛投猛扫。接着，战士们冲进洞内，只见敌尸狼藉，血污满地。战士们翻检敌尸，见一个两肩披着双星的大官，检视胸符，正是七十四师师长张灵甫。他左腕上的手表，指着5时零2分。此时，天降大雨，敌机无法临空。战斗至5时30分结束，国民党整编第七十四师被全歼，击毙13万多人，被俘近2万人。陈毅下的命令是要活捉张灵甫，结果却是击毙，这使他深感遗憾。他在接见整编七十四师被俘高级军官时说：“贵师长张灵甫、副师长蔡仁杰之牺牲，毫无意义，值得惋惜。”
围歼七十四师战斗结束时，敌方前来增援的黄百韬、李天霞两个整编师距孟良崮仅5公里，发射的火炮震耳欲聋。解放军各纵队奉命迅速撤离战场。俘虏随队押走，张灵甫的尸体也要抬走，不能留给敌人。于是，在华野第六纵队胜利转移的浩浩荡荡的队伍中，特务团的几个战士在风雨和泥泞中吃力地抬着一副担架，上面是张灵甫的尸体。好不容易跳出了敌人的包围圈，六纵撤到了一个叫野猪旺的村庄。5月中旬的天气已经相当热了。走了两天，尸体开始腐烂。经向上级请示后，六纵副司令员皮定钧下令将张灵甫的尸体在野猪旺就地掩埋。还指示战士买了一口棺材，把他的脸擦洗得于干净净入殓。随队行动的俘虏闻讯后，有一个少将和八个上校要求最后看一眼他们的师长。皮定钧沉思片刻，点点头答应了。葬礼在村外的一座小山上举行。树丛下安放着一口半人高的大棺材，是从一个地主家里买来的，花了400元钱，颇为华贵。棺材旁边担架上是张灵甫的尸体。曾经跟随张灵甫南征北战的九名将校级军官，成半月形跪在担架旁，向他们的老长官作了最后的告别。也许既悲于老师长的战死，又悲于自己的被俘，他们低头饮泣，有的甚至嚎啕大哭。六纵政治部副主任谢胜坤主持了下葬仪式。皮定钧目睹了葬礼全过程，最后他对九名军官说：“这就是你们师长的下场！他执行蒋介石的命令，说要三个月消灭共产党，结果被消灭的不是我们，而是七十四师，是张灵甫本人。你们应该想想这是什么原因？”
说到这里，皮定钧用手指了指野猪旺，指了指莽莽苍苍的沂蒙群山，激动地说：“为什么你们国民党到了苏北，到了山东，每到一个村庄，老百姓都跑得精光？为什么我们走到哪里，老百姓都给我们粮食，给我们抬担架。你们可以问问老百姓这是为什么？”
九位国民党被俘军官低头聆听着马克思主义的启蒙课，可惜他们的师长张灵甫却无法听到了。一直到被俘的敌整编第七十四师官兵，在听我军干部讲解伏待俘虏的政策。死。张灵甫满脑子装的仍然是封建的“忠君报国”那一套，可悲地充当了“蒋家王朝”的殉葬品。棺材盖打开，里面放着军被。两个战士把张灵甫的尸体抬入棺材。下葬后，坟前树了一块木牌，上面写着一行大字：整编七十四师师长张灵甫之墓与此同时，中共新华社还播发了消息，希其家属到该处收尸。没有人收尸。正在上海坐月子的王玉龄被人家隐瞒着。事后有记者问：“你是什么时候知道的？”
王玉龄说：“他的朋友啊卫士啊，都瞒着我。时间长了，隐隐约约的，我就很奇怪。因为张灵甫打仗的时候一般不打电话给我，但是会发电报，拟个稿子，让译电员发过来。有时候战场上电话可能不通，电报一般总是通的。他在外面打仗，几乎每天，不是有电话就是有信啊电报啊回来。所以那阵子我就很奇怪，好像一下子，什么音讯都没有了，好像这个人就丢掉了。问周围人也问不出什么名堂。其他太太们其实都知道了，但是据说产妇在月子里不能受刺激，所以她们安慰我，说打仗的时候，打得太激烈了，没有音讯很正常，从前打日本人时，有时候～两个月都没有消息。他们是能骗一天就骗一天，直到他的随从杨参谋，被俘之后，过了好几个月被放回来，我记不清是8月还是9月了，他把那封信带给我，我才确定。”
王玉龄说的那封信指的是张灵甫亲笔写给她的绝命书。杨参谋即杨学房，参军处高级参谋。但杨学房送这信时，已是8月下旬。那时，张灵甫已重新安葬。据王晓华等编者的《蒋介石十大文臣武将大结局》记叙：国民党的追兵占领野猪旺后，奉命将张灵甫的棺木挖出后直送南京。棺木运经淮阴时，棺内尸体已臭不可闻，遂将棺木埋葬在淮阴城南公园北侧。蒋介石为“褒奖忠烈”，又特地下令在南京玄武湖畔为张灵甫建造了一座大石墓。不过，据说这是一座衣冠冢。蒋介石对爱将张灵甫之死如丧考妣，认为是他本人“最可痛心、最可惋惜的一件事”。他下令追授张灵甫为陆军中将，并将英国赠送的一艘904吨驱逐舰命名为“灵甫号”。蒋介石认为张灵甫的死是他本人“最可痛心，最可惋惜的一件事”。1947年8月13日，国民党在安徽滁县举行了“剿匪阵亡将士追悼大会”，并宣布整编七十四师重建。蒋介石特地送了一个横幅挽匾信息又上写“河岳英灵”四个大字，并派杨学房少将代他宣读了祭词。蒋介石的祭词洋洋洒洒数千言，宣布张灵甫是死于“自戕”。花痴、自发性和乌鸦嘴张灵甫不赌不嫖，不善烟酒，对登徒子很不屑。他虽对部下慷慨大方，但也把他们管得很死，士兵在驻地如与当地青年女性多说话，亦会受军纪处罚。有一次，他的师文工团团长拐带了别人的老婆，他查明后，吩咐执法队砍头示众。有人说他残忍。可是这个号称残忍的将军，居然喜欢古玩、摄影、养花种草。在南京的时候没仗打，他在家门前种了一地花草，即使行军打仗，只要在某处稍微多驻扎几天，住处四壁就要人裱糊一番。名轴满墙，鲜花盈室。更奇怪的是，当年他在南京的家要搬到西华门别墅区去的时候，他已经被老蒋推上了内战的最前线，这个急先锋正在淮阴与解放军打得天昏地暗呢，竟然还有闲心，抽空画了新家的装修图寄回家，标示如何布置，尤其是花园里的花坛，自己精心设计不算，还详细交待该种些什么花草。直到孟良崮战役大约两个多月之前才得空回一次新家。一进家门，他上下看了看，长叹一声道：“这是我一生中第一次住上太太亲手布置的自己的家……”
可惜张灵甫只住了几天，就又匆匆为老蒋披挂上阵去了。这一去，他就再也没能回来。在这之前，还在74师刚打下淮阴城的时候，师部借驻在一家民宅大院，这家人院子里有许多盆栽。一天清早，参谋们醒来，但觉满院清香，出来一看，原来这家人种的昙花一夜间盛开。张灵甫手提照相机，正在流连花间，不时附身对着花盆取景拍摄。那时74师上下正沉浸在淮阴大捷的喜悦之中，于是有人对张灵甫说，昙花难得一开，师部刚进驻就昙花骤开，这是在为师长祝捷。张灵甫站在花坛前，拍了一张照寄给在南京的太太留念，背后是盛开的昙花。他的太太说，后来有人说这也是不祥之兆：昙花一现，美则美矣，但马上就凋谢了。张灵甫秉性耿直，对蒋介石说话也直言不讳，有一张乌鸦嘴，往往一语成谶。1944年底，他到重庆陆军大学进修，期间蒙蒋介石召见，除了唠家常，当然也要谈谈当前的形势与任务之类的话题。张灵甫不仅对党国有研究，对中共、对沙俄、俄共也有研究，对老蒋说，中国当前之患，不在日寇之侵略。而在“共匪”之叛乱，若抗战胜利，彼必乘战后疲敝，起而叛变，望早为之计。老蒋早说过，日本痫疥之患，中共心腹大患，听学生如此进言，自然龙心大悦。抗战胜利后国共和谈期间，两党中均有乐观论调，以为和平真会马上降临。张灵甫却对部下说：“国共不并存，当体察政府苦心，努力备战，挽救民族，切勿为谎言所误。”