解放军全歼该敌尚需一定时日。此时由蚌埠北援之敌第6兵团在第8兵团的策应下，已推进到余家集、包家集以南地区，距离双堆集仅70余里，从华中白崇禧集团中抽调的第20、第28军已陆续到达浦口，估计12月15日前后可以到达蚌埠地区。
此外，国民党正在上海集中待命的数十艘船只，有可能突然北上接走平、津、塘、唐地区的蒋系各军，转用于徐蚌战场。
针对这些情况，总前委为争取战役主动，经中央军委批准，决心首先集中中原野战军主力，并使用战役预备队华东野战军第7、第13纵队及特纵炮兵一部，先歼灭黄维兵团。华东野战军主力则围困杜聿明集团。另以华东野战军第6纵队，并调中原野战军第2纵队及豫皖苏、豫西军区5个团和渤海纵队1个师，统归华东野战军第6纵队司令员王必成、政治委员江渭清指挥，担任阻击李延年、刘汝明两兵团的任务。
刘伯承把这个作战方针形象地比喻为：“吃一个（黄维），挟一个（围困杜聿明），看一个（阻止李延年、刘汝明）”。
5日，刘伯承、陈毅、邓小平下达《总攻黄维兵团命令》，指出：敌黄维兵团经与我半月作战，已损失兵力至少三分之一，战斗部队至少损失五分之二，其主力18军（包括18师）亦已残破，这是解放军各部队英勇作战的结果。根据总的作战要求及当面实际情况，决定组成3个攻击集团。命令中原野战军第4、第9、第11纵队及豫皖苏独立旅，华东野战军炮兵一部组成东集团，由第4纵队司令员陈赓、政治委员谢富治指挥，向双堆集以东地区攻击；命令华东野战军第13纵队、中原野战军第1、第3纵队和华东野战军特纵炮兵一部组成西集团，由第3纵队司令员陈锡联指挥，向双堆集以西地区攻击；命令中原野战军第6纵队、华东野战军第7纵队和陕南军区第12旅组成南集团，由中原野战军第6纵队司令员王近山、政治委员杜义德指挥，向双堆集以南攻击。
在总攻发起前，各纵队进一步动员，补充兵源，实行火线整编，充实连队。各级指挥员深入第一线，动员组织突击队。开展军事民主，组织沙盘作业，解决战术难点，研究歼敌办法。增强火力，推广被敌称为“特大威力炮”的土造炸药抛筒。加强通信保障，架设环形电话网，重要线路架设双线，并加强和改进支前后勤工作，将粮草、弹药、药品送到前沿阵地，保障部队连续作战。
6日，解放军经过充分准备，尤其是进行了大量的土工作业后，3个集团同时发起全面攻击，各部队采取稳扎稳打，攻占一村巩固一村的战法，对敌实施有重点的多面多点的连续突击。至10日，共歼敌近5万人。
为加速歼灭黄维兵团，总前委决定，将华东野战军第3、第13纵队加入南集团，由华东野战军参谋长陈士榘统一指挥，突击敌核心阵地双堆集，东西两集团的各纵队分别向当面之敌实施突击。
12日，刘伯承、陈毅发出《促黄维立即投降书》，指出：现在你所属的4个军，业已大部被歼。就是你所依靠的王牌18军，亦已被歼过半。你的整个兵团全部被歼灭，只是几天的事。在这种情况下，你本人和你的部属，再作绝望的抵抗，不但没有丝毫出路，只能在人民解放军的强烈炮火下完全毁灭。你身为兵团司令，应爱惜部属与生命，立即放下武器，不再让你的官兵作无谓牺牲。如果你接受我们这一最后警告，请即派代表到本部谈判投降条件。时机紧迫，望即决策。（《人民日报，1948年12月16日》）
对此，新华社连续广播，各纵队抓紧时机，广泛开展政治攻势，国民党军整连整营纷纷来降。但黄维仍负隅顽抗，拒绝投降，并施放毒气，作困兽斗。国民党空军也频频出动，支援黄维兵团防守，仅13日，敌机就向解放军阵地投弹百余吨。
13日晚，解放军发起总攻。14日，南集团攻占敌临时机场南端阵地以及双堆集以南尖谷堆阵地，黄维兵团部完全暴露。东集团攻占杨老五庄、杨子全庄。15日黄昏，各集团乘胜继续攻击，东西集团通过敌人严密火力网，突破敌人用汽车筑成的防线，与南集团会合。3个攻击集团密切协同，迅速摧毁敌人的指挥中心。残敌分散突围，均被截歼。15日12时，解放军全歼黄维兵团，活捉兵团司令黄维、副司令吴绍周（兼85军军长）、第18军军长杨伯涛，第10军军长覃道善等人。兵团副司令胡琏乘战车潜逃。第14军军长熊绶春被击毙。至此，黄维兵团全军覆灭。
由蚌埠北援的李延年、刘汝明两兵团遭解放军阻击部队的顽强阻击，连攻10余日，终未能与黄维兵团靠拢。黄维兵团覆灭后，该敌于16日撤到淮河以南。被围在陈官庄地区的杜聿明集团从11日至15日曾连续向南突围，均未得逞，其防区进一步缩小，处境更加不利。
黄维兵团被歼，淮海战役第二阶段的任务已经完成，其间，解放了战略重镇徐州。正如中共中央贺电中指出的：“徐州是南京的门户，是匪首蒋介石进行反革命内战的巨大军事基地，徐州的迅速解放，对于全国战局，极为有利。尚望继续努力为全歼当面匪军而奋斗。”（《人民日报，1948年12月6日》）
中共中央、毛泽东在电贺淮海战役第二阶段大捷时，指出：黄维兵团的被歼，迫使李、刘兵团向淮河以南回窜，从而使杜聿明集团“完全孤立于永城东北地区，粮尽援绝，坐以待毙”。“望团结全体军民，继续努力，为全部歼灭当面匪军而战！”（《淮海战役》，第233页）
14、 对杜聿明集团围而不歼之谜
黄维兵团被歼后，华野和中野本可立即发起淮海战役第三阶段作战，歼灭杜聿明集团，但毛泽东指出“暂不作最后歼灭”，为什么呢？
毛泽东的战略指导思想和有关内部资料披露了当时实情：
如果我军在淮海战场上迅速全部解决杜聿明集团余部，则国民党全局动摇，势必重新部署。蒋介石可能以在上海集中待命的数十艘船只突然北上，作出接走华北北平、天津、塘沽、唐山诸敌的计划。所以，淮海战场这时我军如何动作，对平津战役关系重大。
为配合平津战役之作战，中央军委和毛泽东令淮海战场我军，对被围的杜聿明集团余部，在两星期内不作最后歼灭之部署。这样，可使蒋介石看到他的几十万大军还在，就不会马上决策让华北的军队南逃，可以达到稳住华北敌军的目的。
12月11日，中央军委、毛泽东在《关于平津战役的作战方针》中明确指出：“为了不使蒋介石迅速决策海运平津诸敌南下，我们准备令刘伯承、邓小平、陈毅、粟裕于歼灭黄维兵团之后，留下杜聿明指挥之邱清泉、李弥、孙元良诸兵团（已歼一半左右）之余部，两星期内不作最后歼灭之部署。”
14日，中央军委正式通知华野围攻杜、邱、李的各纵，提议整个就现阵地态势休息若干天，只作防御不作攻击，待黄维兵团歼灭后，集中较多兵力，再举行攻击。
华野接到中央军委指示后，鉴于敌人连日来疯狂南突，我军阻击任务比较重，所以报告中央军委，我军在阻击敌人南突的同时，设法以师为单位争取轮流休息，使敌人无喘息机会。
16日，黄维兵团已经全部被歼，蚌埠李延年、刘汝明兵团也已停止北援，杜聿明集团南突之势锐减，所以华野决定就现阵地休息3天，以小部队监视包围圈里的敌人。但是，中央军委考虑平津战场上分割包围敌军的行动正在紧张进行，所以当天指示华野：包围杜聿明集团的各纵队可休息10天，然后集中华野全力发起攻击。对杜聿明集团应不断进行政治攻势。
总前委根据中央军委和毛泽东的指示，为配合平津战役，令华野自16日起转入战场休整，并加强对敌围困，展开对敌政治攻势；中野全军位于宿县、蒙城、涡阳地区休整，并担任歼灭杜聿明集团的总预备队，视情况加入战斗或消灭突围之敌。如李延年兵团再次北犯，也可就地歼灭。中野各部按照总前委的命令，均拟订了半个月（到1949年1月2日止）的休整计划。
17日，华野按照中央军委指示和总前委的命令，即部署休整10天，规定了休整期间的4项中心工作：敌人突围则歼灭之、研究战术、整理组织和展开对敌政治攻势。
到了22日，平津战场的形势发展迅速。我军已完成了对华北敌军分割包围的任务，攻歼围敌的作战已经开始。22日当天，我军即全歼新保安之敌主力35军军部和2个师。这时，蚌埠李延年兵团54军已撤回南京，李延年兵团第三次向北增援的可能性已大减，刘汝明兵团已撤到合肥一带。所以，中央军委指示华野：可集中全军多休整数日，养精蓄锐，休息至下月初，于5日左右开始攻击较为适宜。
根据中央军委22日的指示，华野前委经研究，决定华野全军再延长休整10天，到1月5日左右，再开始攻击。25日，华野前委电示各兵团各纵队遵照执行。
至于休整期间的活动内容，华野前委向各纵提出几点：第一、加强攻击准备，政治上深入动员，总结政治上攻势经验，军事上研究经验，酌量调整部署；第二、继续巩固新兵，做好融化俘虏工作；第三、继续利用天气变化及敌人困难等条件，向被围困敌军展开普遍的、有效的、各种方法的政治攻势，瓦解敌人；第四、对部队加强组织性、纪律性教育，注意克服无组织无纪律现象；第五、补足弹药。
从淮海战场来说，这时暂缓攻击，转入休整，不仅对提高我军的战斗力有利，而且对最后全歼被围困的敌人、夺取淮海战役全胜也是有利的。这时，徐州地区天气骤然变冷，风雪交加，天寒地冻，包围圈里的敌人粮草断绝，忍饥挨饿。对敌军延长包围时间，可以利用天时条件，进一步造成敌人的各种困难，瓦解其斗志，消磨其锐气，而我军则可以养精蓄锐，以逸待劳，做好最后攻击的充分准备，以较少的兵力消耗、较短的时间，争取更大的胜利。
15、 杜聿明不愿执行突围令
当华东野战军和中原野战军转入休整阶段时，包围圈内的杜聿明集团尚有8个军22个师（旅）余部。即邱清泉兵团的第5军第45、第46、第200师，第70军第32、第96、第139师，第72军第34、第233师，第74军第51、第58师，第12军第112师，新编第44师，骑兵第1旅；李弥兵团的第8军第42、第170、第237师，第9军第3、第166、第253师，第115军（由收罗的第59军残部编成）第39、第180师。还有孙元良残部收容起来编成的归第72军指挥的第122师。
黄维兵团被歼后，蒋介石12月16日命令杜聿明赶快“向外扩展，设法脱离包围”。杜聿明深知，黄维兵团被歼，人民解放军会全力解决他的余部，此时让他突围，等于自找毁灭，故而没有马上执行蒋介石的电令，而是加强工事，持久固守，以待时局的发展。他回电蒋介石，要求调兵增援并表示将率邱、李两兵团坚守到底。
蒋介石则坚持要杜聿明照他的命令迅速突围，于12月17日电示杜聿明重申：“请吾弟万勿单独行动，明日派员飞京面授机宜。”（《淮海战役亲历记》（原国民党将领的回忆），第41页）
18日，舒适存飞南京受命，19日午后偕空军总司令部第三署副署长董明德返回陈官庄，带回蒋介石及空军副总司令王叔铭的两封亲笔信。
蒋介石信的大意是：第12兵团突围失败，完全是黄维性情固执，不照我的计划在空军掩护下白天突围；黄维擅自决定夜间突围，毁了我的军队。弟部被围后，我已想尽办法，华北、华中、西北所有部队都被共军牵制，无法抽调。目前唯一办法就是在空军掩护下集中力量，击破一方，实行突围，哪怕突出一半也好。这次突围，决以空军全力掩护，并投掷毒气弹。如何投放毒气，已交王叔铭派董明德前来与弟商量具体实施办法（《淮海战役亲历记》（原国民党将领的回忆），第41页）。王叔铭在信中表示，决心以空军全力掩护杜聿明突围。
按照蒋介石的旨意，杜聿明与舒适存、董明德拟订了陆、空协同突围计划。同时又与邱清泉商议了上、中、下三策：上策是由西安、武汉（必要时放弃）集中一切可以集中的力量，与共军决战；中策是各兵团持久固守，请蒋介石和谈，在政治上争取时间；下策是照令突围，绝对达不到希望。12月20日晚，气候突变，风雪交加，飞机无法起飞，直至29日天气转晴后，董明德、舒适存才将突围计划与“三策”建议带回南京。
1月1日，蒋介石发表求和声明，提出与中国共产党进行“和平”谈判。这时，杜聿明鉴于援兵无望、突围又危险，转而希望“和谈”成功，以保全他的兵力，所以迟迟不作突围的行动。蒋介石在求和声明发表后的第3天，即1月3日，再次电告杜聿明：自5日起投足2日粮弹后赶快照令突围（《淮海战役亲历记》（原国民党将领的回忆），第46页）。并指示舒适存返回陈官庄时，随机带去约800套防毒面具，以供突围时施放毒气用。
1月5日，蒋介石开始空投粮弹。杜聿明则以粮弹未投足、将士饥饿无力、请求继续大量投粮弹，故意拖延突围行动。蒋介石严厉命令“准再投3日，务必遵照实施”（《淮海战役亲历记》（原国民党将领的回忆），第46页）。至此，杜聿明不得不进行突围。
16、 杜聿明集团的末日
杜聿明的突围计划还来不及实施，1月2日24时，粟裕下达了总攻杜聿明集团的命令。
命令指出：为贯彻战役决心，乘敌人还未能得到充足粮食、弹药补给，且疲惫动摇恐慌之际，争取迅速解决该敌，全歼杜邱李匪部，以获淮海战役全胜，决首先分割攻歼13兵团残部，压缩对敌之包围圈，而后乘胜扩张战果，攻歼邱兵团残部。
粟裕的作战命令明确指出了各纵的作战任务和行动方向，以及各纵协同中应注意的问题，同时赋予了各攻击集团领导人根据敌情制定行动部署的权力。
1月6日，华野我军的总攻便开始了。
国民党李弥兵团第9军军长黄淑在回忆我军总攻时的情况时说：“元月6日起，解放军发起全面总攻，炮火之猛烈为前所未有，青龙集被轰成一片火海，尸横遍野。第9军之青龙集、大小李庄外围据点全被解放军所拔除，师、团长亲自率队出击亦无法夺回原有阵地。解放军以坑道作业接近军、师指挥中心，杜、邱、李在此紧急情况下，不得不将突围计划提前实施。”
1月7日，杜聿明慌忙部署突围。据敌第9军军长黄淑回忆：杜聿明鉴于元月6日以前作战的教训，乃将突围攻击任务交由两个兵团轮流担任。
第一天，邱兵团由张庙堂（邱兵团第5军第200师周朗所占领的阵地）之线，向解放军阵地进攻，李兵团在后掩护。李弥命令第8军及第115军（系在包围圈临时编组成的，军长司元恺，归第13兵团战斗序列）在大荒村等地担任掩护，第9军移至张庙堂附近准备邱兵团突围奏效后接替第5军阵地。
第二天，第9军越过邱兵团8日所攻占之阵地继续向解放军攻击，如此更替跃进。杜、邱、李认为这样部署避免了两个兵团之间的矛盾。