9日上午，行军途中接到上级要8纵火速歼灭运河车站守敌、抢占运河桥的命令。这时，8纵部队已有20几个小时没有埋锅做饭了。69团离运河车站最近，也还有40多公里路。纵队张仁初司令员、王一平政委感到时间紧，路程远，部队疲劳，任务艰巨。纵队几位领导研究决定，要23师坚决完成抢占运河桥的任务，并令69团为先遣团，排除沿途敌人干扰，争取早一分钟拿下运河桥。同时纵队领导也分头到部队进行指导。
当王一平政委下午赶到69团的时候，部队早已开始了急行军。团政委孙芳圃边走边传达前委的号召，强调搞好团结互助。部队虽然饿着肚子行军，听说是先遣团，首先打响第一仗，士气大振。1营教导员李春亭腿上负伤坚持行军。全团没有一个掉队的。有的战士俏皮地说：“肚子空空行军方便，免得拉屎撤尿耽误时间。”团长于步血向王一平政委汇报说，团营干部分头下到连队，便于当机立断处理情况，遇到小股敌人就歼灭，遇到大股敌人就派小部队包围监视，绝不动摇猛追直插运河桥的决心。
在我军前进行列里，除了宣传员的鼓动声，就是嗖嗖的脚步声。在这样忍受疲劳饥饿而又斗志昂扬的战士面前，又有什么样的敌人能逃脱被歼的命运？
69团在急行军途中歼灭了几股逃敌，从俘虏的1个副营长口中，得知黄兵团所属的5个军及兵团部，除63军在窑湾企图西渡外，其他都已撤过运河桥，只有100军44师的2个团因桥梁被炸仍滞留桥东。当晚9时，69团1营追到运河车站。乘敌不备，先后解除了3股敌人的武装。
这时，我1营发现铁路两侧集团堡垒里的敌人有3个团的番号，守敌虽众，但是兵无斗志，有的团长、营长已过河西逃，敌军失去指挥。1营抓住战机，不等后续部队，马上向守敌发起猛攻。10日上午9时，在收拢部队的嘹亮号声中，整个战斗胜利结束，歼敌100军44师130团全部及131团、132团各一部，共毙伤俘敌2700多人。我军仅伤亡百余人。
在突破敌人运河防线以后，我8纵22师和23师即于10日挥戈西进，与兄弟部队一起在边追边侦察边打中很快形成对黄百韬兵团的合围。
从10日晚至14日晨，8纵奉命从碾庄圩以东及东南方向协同兄弟部队压缩包围，杀伤消耗敌人，以利最后聚歼。8纵8个团在前后阎子桥、大小王家庄、唐家楼、火烧房子等10多个村庄，与守敌64军和44军一部展开了逐堡逐村的争夺战。
这是一场“砸烂硬核桃”、“虎口拔牙”的硬仗。战斗进行得十分激烈、艰苦。特别是22师65、66两个团合力夺取敌64军“精锐”475团防守的唐家楼的战斗，打得更为艰巨而出色。敌人工事的射击孔大都紧贴地皮，很难发现。就是匍匐前进，也多遭杀伤。有几处工事，敌人构成夹墙式，我军冲过去，敌人却从我背后开火。经过一夜激战，攻下半个村庄。这2个团均遭重大伤亡。66团政委李树桐在反复冲杀中，身先士卒，光荣捐躯。65团的3连，全连仅剩下5个人仍和敌人搏斗。就这样，英雄们以我军的顽强压倒了敌人的顽抗，终于在13日消灭了敌475团大部和前来增援的7个班，拿下了唐家楼。
在外围村落战中，各团英勇作战，都取得一些成绩，也程度不同地受到一些挫折。主要原因是部队从运动中猛追猛打突然转入村落攻坚，对敌人工事和守备特点没有搞清，从上到下存在着轻敌思想。
14日晚，华野首长召集围歼黄百韬兵团的6个纵队的负责人开会，总结几天来攻坚作战的经验教训，确定了“先打弱敌、孤立强敌，打其首脑，乱其部署，尔后聚歼”的战法，提出了一系列攻坚的具体措施。同时决定由华野副政委兼山东兵团政委谭震林和副司令员王建安统一指挥对黄兵团的围歼。
根据这次会议精神和我8纵实际情况。张仁初和王一平召开了纵队党委会，提出既要经得起胜利的考验，也要经得住挫折的考验，保持清醒的头脑；同时分析了敌人外援无望、内缺粮弹的处境和基层官兵恐惧、厌战的心理，强调配合强大的军事打击开展政治攻势，瓦解敌人的士气。要求各师在普遍战评的基础上，研究如何发挥我军夜战近战特长，加强土工作业，特别是敌火力下的作业，隐蔽地接近敌人，插入敌人据守的各村之间，割断敌人的联系，为聚歼敌人创造条件。
从25日到18日，我8纵除以一部分兵力监视碾庄圩以东大小院上一带的敌人以外，主力分别由火烧房子西北、大院上西南向碾庄圩等处守敌进逼，紧缩了对碾庄圩的包围。
纵队组织了炮兵群，压制、摧毁敌人的地堡工事。
19日晚，我军对碾庄圩守敌黄百韬兵团部、25军军部及其直属部队发起总攻。我8纵和9纵从东南和正南方向担任主攻。
这个由于淮海决战而闻名中外的碾庄圩，是座落在淮海平原上不足200户人家的村庄。在我8纵主攻方向上，第一道围墙内有敌15军40师1个营的兵力在固守。
临战前，纵队发出动员令，要求主攻部队的干部和全体党员在紧要关头“挺身而出，成为胜利的旗帜！”“要勇猛杀敌当英雄，执行政策立双功”。要“彻底消灭25军，打掉皖南事变刽子手顾祝同的打手，为在皖南事变中牺牲的同志报仇。”
8纵围攻碾庄圩的先锋团，由23师67团担任。和先锋团并肩作战的是9纵的“济南第1团”。这两个主攻团为了完成共同的任务，团结协调，亲密无间。两个指挥所架通电话，相互通报敌情和作战部署。总攻开始，电话线被敌炮火打断，就互派参谋人员加强联系。
曾被誉为“战争之神”的大炮，在围攻碾庄圩中大显神威，在步兵冲击前，我8纵集中57门大炮，分4个炮群，一声令下，巨响震天，无数条火龙，划破夜空，飞向碾庄圩，仅3刻钟就发射4600发炮弹，摧毁敌大批防御工事和杀伤敌大量有生力量，为步兵冲击开辟了通路。
这时，先锋团的尖——9连，正隐蔽在一条蛇形的交通壕里。交通壕是他们利用夜间在敌火力下筑成的，离敌人前沿阵地只有60米。19日22时，当炮火刚刚向前延伸，9连便在副营长李浩的带领下，分3路向碾庄圩东南角扑去。淮海平原的初冬，已是天寒地冻，北风凛冽，而夜间壕水更是冰冷刺骨。为了争取时间，突击队的干部战士跳下水深齐腰的壕沟涉水前进，有的同志干脆脱掉棉衣，光背赤足涉水而过。壕壁、围墙陡直难攀，战士们三番五次爬上去摔下来。
被我炮火震昏了的敌人，如恶梦刚醒，机枪、手榴弹一齐打来。战士们一面还击，压制敌人火力，一面“叠罗汉”向上爬，相互鼓励：“冲过水壕，翻过围墙就是胜利！”干部、党员哪里任务艰巨就到哪里，哪里有困难就出现在哪里。
共产党员、1排长孙向银头部负伤，鲜血直流，仍指挥全排涉过水壕爬上围墙。仅用半小时，碾庄圩第一道围墙的突破口就被9连撕开了，首先升起红色信号弹。67团、68团、64团等后续部队随后跟进。
经过一番搏斗，我军将守敌1个营消灭在地堡密布、壕沟纵横的阵地上。突击连和后续部队占领几所院落站稳脚跟后，立即支援“济南第1团”的突击方向，向那里的守敌压过去。这时，两个主攻的拳头会合了，共同打退了敌人“青年突击队”的疯狂反扑，向前进攻。
为了抵近射击，打死角，由8纵参谋长陈宏67团指战员研究出的炮打炸药包的技术，给敌人很大杀伤。俘虏兵讲：
这种“炮弹”，会飞到墙上爆炸，没法躲。后来，华野首长称赞炮打炸药包是一大创造。
我8纵部队和9纵“济南第1团”在第二道围墙的南门外会合后，一齐向里发展。部队在接近黄百韬兵团部的时候，同垂死挣扎的敌人展开逐屋、逐点的争夺，一直激战到20日清晨5时50分，攻打敌人兵团部和25军军部的各部队会师了。当特务团团长董玉湘进到黄百韬住址时，发现黄睡的毛毯上遗弃下1支手枪和1瓶安眠药。黄百韬狼狈地带着残部逃向64军据守的大院上村。
接着，8纵又奉命向盘踞小院上、小费庄等5个村庄的敌64军、25军残部发起攻击，战斗到22日晚上，守敌大部被歼。黄百韬从大院上向西北逃跑时毙命，刘镇湘被生俘。经过10天鏖战，我8纵共毙伤、俘敌1.25万余人。部队经受了拼强敌，打硬仗的严峻考验。
激战碾庄
11月8日，我华野9纵各部完成了对黄百韬兵团的攻击准备。各级指挥员都在指挥所里等待命令。直到中午，还不见野司的电报。纵队指挥所里不断接到各师的询问电话，聂凤智虽然要求下面不用着急，但自己心里也是七上八下。根据上级通报和9纵侦察得知，原驻海州的敌44军，确已撤离海州，向新安镇方向开来，连日来陇海铁路各车站警戒森严，军运繁忙，情况异常。聂风智寻思着，敌人是在搞什么名堂？
是收缩兵力加强正面的防御，还是向徐州撤退？原定战役第一阶段消灭黄兵团之后，下一步是打海州或下两淮，如今海州敌人跑了，看来向东打的可能性不大了，要打就是向西发展。
堰头镇战斗于午夜打响，激战至9日拂晓，歼敌63军152师454团和456团1个营以及军部直属分队等2000余人，敌军长陈章在混战中狼狈逃到窑湾。
在我27师包围堰头镇的同时，我25师和26师通过沂河。聂风智立即命令26师留下1个团协助27师围歼堰头镇之敌，主力继续向窑湾追击，并于9日拂晓包围了窑湾敌63军主力。纵队一面部署攻击，一面报告野司。
这时，1纵追击部队已经赶到，根据上级指示，窑湾之敌由1纵负责解决，要求9纵迅速渡过运河，继续向古城镇、碾庄圩方向追击。9纵即改由25师为前卫，筹措船只，寻选渡河点，抢渡运河。26师、纵直、27师随后跟进。在部队，没有装备渡河器材的条件下，克服水障是个难题。因沿河找不到船只，部队折向南抵达皂河镇，延至10日拂晓，25师才利用少量木船和就便器材渡过运河，至11日上午全纵队包括火炮、后勤车辆物资才渡河完毕。
为了抓着敌人，渡河耽搁的时间必须抢回来！部队过河后即昼夜兼程追击，不顾敌机的袭扰，1天行程65公里，于11日下午，赶到碾庄圩以南的高桥，会同友邻纵队，完成了对黄百韬兵团的包围。聂风智司令员带的1个轻便指挥所随前卫师前进，于11日下午设在古城，督促后续部队加速前进，进入指定地区，作好进攻准备。
在我华野各纵队穷追猛打之下，黄百韬兵团损失惨重。
其63军还未过运河就在窑湾和堰头镇被歼。100军在向西突围中，其44师已经被歼，只剩下军部和63师了。敌转入防御后的部署是：兵团部在碾庄圩，以东为64军，碾庄圩及其以北为25军，其西面为100军。南面与我9纵接触的为敌44军，下辖2个师，碾庄火车站以东为162师，以西为150师；
敌人利用原李弥部在该地区的既设阵地，主要依托村落、沟渠和铁路组织防御，前沿在古运河北岸东西一线；其主要防御点在徐井涯、新庄，前、后板桥附近地域；军指挥所在碾庄车站。该敌原系地方部队，撤离海州向西逃跑途中奉命归黄百韬指挥，与25军、64军相比，战斗力要弱一些。
华野直接参加围攻黄兵团的有5个纵队。9纵右邻是8纵，负责由东向西攻击；左邻是6纵，其以北是13纵，负责由西向东攻击；北面是4纵，由北向南攻击。
9纵担任由南面沿赵墩、火车站、碾庄圩方向实施主要突击。纵队决心：以25师在左、26师在右并肩攻击。首先以迅速勇猛的动作，一举突破敌防御，攻占徐井涯，新庄，前、后板桥诸要点，控制铁路路基，第二步继续扫清曹庄、李庄等碾庄圩南侧要点。尔后调整部署，向碾庄圩敌兵团部突击，要求各部队于12日18时前完成准备。为了争取时间，打敌于立足未稳，战斗准备相当仓促。特别是26师展开后，干部还来不及看地形，部队体力还未恢复就投入了战斗。
11月12日20时30分，在华野统一指挥下，我9纵协同4、6、8、13纵，展开对黄兵团攻击。我9纵干部战士发扬猛打猛冲的战斗作风，迅速突破敌44军防御。26师包围攻击徐井涯，歼敌162师454团大部，继于13日拂晓前攻占碾庄车站东侧之新庄，歼敌一部，控制了一段铁路基。我25师突破敌150师防御后，继续向前、后板桥攻击，恰遇敌换班不久，我军乘机将敌打乱，歼敌一部，攻占前、后板桥。敌人在猛烈炮火支援下，依托铁路路基和车站月台阵地顽强抵抗，战至13日10时，我25师攻占车站，全部控制了铁路路基。为了直接观察战场情况和利于指挥下一步作战，聂风智率纵队前进指挥所转移至火车站东侧。
14日，聂风智去野司参加作战会议。粟裕代司令员介绍了近日战况，分析敌情的可能变化，指出能不能全歼黄兵团，关键在于能不能阻挡住邱清泉、李弥2个兵团的东援。会上宣布围歼黄兵团作战由谭震林、王建安统一指挥。决定采取先打弱敌，后打强敌，攻其首脑，乱其部署的战法，先歼灭44军和100军。华野主力负责阻截牵制敌邱、李兵团，我9纵改隶山东兵团建制。
14日夜，当聂风智返回指挥所的时候，我25师已攻占圩子西南侧的李庄，歼敌25军40师1个加强营。然而，我26师攻击曹庄却碰到了钉子。曹庄靠近碾庄圩南门，我军打曹庄，就像虎口拔牙。敌集中火力封锁我军接近路线，依托房角、暗堡作拚死抵抗，并可得到圩子内敌兵力、火力的直接支援。我军攻击一再受挫，伤亡很大，打得相当艰苦。战至15日凌晨1时30分，终于打掉了敌人这颗“门牙”。至此，碾庄圩以南外围的全部据点，均被我军扫清。
为了准备对碾庄的攻击，第9纵队调整了攻击部署。因攻击正面缩小，纵队改为三个梯队配置。攻击碾庄圩的任务由25师负责，由该师73团接替曹庄防务，准备担任主攻。
74团仍在李庄及其以东占领攻击出发阵地，担任助攻，75团为师预备队。
碾庄圩，是一个面积不到1平方公里的平原大村寨。圩子四面环水作为外壕，内筑有两道土围子，原敌李弥部第9军已构筑了不少工事。黄百韬决心死守待援后，又加强了工事，树木基本砍光，房子大部拆掉修了工事，连美国人给的载重运输汽车，也成了修工事的特殊材料，人员基本上已转入地下。我军要拿下这样的堡垒，没有相当充分的准备是不行的。为了减少接敌运动中的伤亡，部队加紧向敌方实施迫近挖壕作业，要求将交通壕挖到敌外壕边上。
11月17日17时，在上级统一指挥下，我9纵向敌发起总攻。我攻击部队连续突击4次，均未奏效，部队伤亡较大。