针对这种情况，八路军总指挥朱德、副总指挥彭德怀决定集中华北的八路军和地方部队，对华北日军展开大规模破击战，破坏日军的交通线和封锁网，打破日军的“囚笼”，以此来鼓舞全国军民士气，坚持抗战。这就是着名的百团大战。
邓小平和刘伯承积极赞成这一设想，并进行了周密部署和准备。在战役开始前，邓小平专门下达了一个文件，要求部队振作精神，做好充分的思想准备。然后又同刘伯承联名向部队发出了关于作战指导思想的指示，为提高部队各级指战员的战略意识和作战思想，为百团大战的胜利开展打下了基础。
7月22日，彭德怀副总指挥签发了《战役预备命令》，命令确定一二九师和晋察冀军区各以主力一部完成正太路大破击的任务，任务完成后，转入两侧，进一步扩大战果。同时一二九师还要组织力量对平汉、德石、白晋、同蒲敌军交通线展开连续破击牵制敌人，配合作战。
邓小平与刘伯承立刻忙碌起来，二人在作战室里彻夜不眠地思考指挥。8月18日，刘邓在前方指挥所召开了指挥员会议，传达了总部命令，研究作战部署。邓小平简明扼要地讲了战役的重要性，强调指出“对正太路破坏得越彻底我们越主动。这一仗必须打好，坚决粉碎日寇的‘囚笼政策’，扩大并巩固敌后抗日民主根据地，克服投降危机，振奋全国人民的抗战信心，提高我军军威，从而对国际反法西斯的斗争也会有重大影响”。
8月20日20时，参战部队以隐蔽、迅速的动作，对正太路发起了攻击。正太战役正式打响，由于指挥得当，各线进展顺利，敌军受到重大杀伤。刘邓用兵如神指挥三八五旅部队在狮垴山，凭坚固险，激战六昼夜，予敌以重大杀伤。自8月20日夜到9月10日为第一阶段，共进行大小战斗181次，毙、伤、俘日伪军官兵2559名，破坏铁路1175公里，破坏公路275公里，给日军以初步打击。
邓小平和刘伯承在这次战役的第二阶段，将指挥部迁到宋家庄，为进一步扩大战果，刘邓决定，指挥主力部队和地方武装发动榆(社)辽(县)战役。在榆辽战役中，共发动大小战斗152次，毙、伤、俘日伪军官兵2602名，破坏铁路775公里，公路119公里，并荡平了该区日军全部据点。至此，日军的“囚笼政策”遭受到了巨大的破坏。
百团大战第一、二阶段的重大胜利，日军遭受到了沉重打击，因而不得不暂时放弃对国民党正面作战的进攻，集中兵力转向华北各抗日根据地进行疯狂的大扫荡。一二九师在敌人强大的进攻下处境十分艰难，10月28日，刘邓率师部人员连夜行进到达宋家庄，在日趋严峻的形势下，给每人发了一支步枪，准备在不得已时人自为战。29日陈赓指挥三八六旅以及决死纵队对关家垴实施总攻击。此役进行得异常坚苦和激烈，我军伤亡不断增大，刘邓二人在指挥所内密切关注前线局势，果断指挥，命令陈赓不惜一切代价拿下目标，陈赓表示坚决服从，毫不犹豫地打了下去，直到占领关家垴。这一仗以后，在一二九师参谋人员有一种说法，陈赓谁都不怕，就怕邓小平。
就是这样，邓小平和刘伯承指挥一二九师、地方武装以及广大群众，经过了两个月的艰苦持续的作战到12月5日，反扫荡战役宣告结束。在这一段时间，刘邓指挥部队与日军作战196次，共毙、伤、俘日军官兵2800余名，破坏铁路50多公里，破坏公路63公里。
至此，持续三个半月，投入105个团的百团大战也胜利结束了。百团大战中，刘伯承与邓小平指挥一二九师主力进行大小战斗529次，给日伪军以重大打击，使全国人民的抗战信心大为提高。
对于这场规模巨大的战役，人们众说纷纭，邓小平在稍后对这次战役也做了分析。1941年4月邓小平在《反对麻木，打开太行山区的严重局面》一文中说“百团大战给晋冀鲁豫边区，各方面工作以最大的考验，也给一二九师以最大的考验。‘百团大战’证明了晋冀豫边区无论在军事上，政治上，以及党和群众工作上，都有了相当基础，足使敌伪胆寒，足使全体军民具有充分信心走向抗战胜利的道路。但‘百团大战’之后虽在主力兵团上面得到一些补充和修整，但在根据地巩固上则甚为严重。这表现在：敌占区日益扩大，抗占区日益缩小。”
在1943年，邓小平总结抗战五年来的斗争时，又指出“百团大战给予敌人以很大的震荡，使敌人重新考虑了问题，提出了‘治安强化运动的方针’，取消了‘剿共灭党’的口号，而专致力于‘剿共’……百团大战本地区军事力量过于突出暴露，不仅自己伤亡很大，元气不易恢复，且警惕了敌人对我们的严重注意，也产生了不利影响。”
从以上分析可以看出，邓小平对百团大战的评价应该是中肯和客观的，是实事求是的。
1941年和1942年是八年抗战中最为艰苦的两年。邓小平与刘伯承一道领导抗日军民，克服困难，战胜了敌人异常残酷的“扫荡”和非同寻常的困难，坚持敌后抗战，一二九师军旗飘扬在太行山上。
进入1941年，华北敌后抗战进入了最为艰苦地时期，经受了百团大战的沉重打击的日本侵略军把战争重点转到了敌后。日军在华北推行所谓的治安强化运动，实行残酷的“三光”(抢光、杀光、烧光)政策，囚笼政策，到处设立据点，连续不断地对根据地进行扫荡，根据地出现日益缩小的局面。太行根据地由1939年的10.4万平方公里降到1941年的8.1万平方公里，冀南区人口减少了二分之一。
与此同时，国民党顽固派趁机掀起了第二次反共高潮，于1月初，制造了震惊中外的皖南事变，并在许多地方发动了对共产党的进攻。另外，加之根据地农业生产也因为受到敌人的频繁扫荡而歉收，这样就造成了抗日根据地的极大困难。如何克服这些困难，巩固根据地成为摆在邓小平和刘伯承面前的一个严峻考验和挑战。
对此，邓小平在一次会议上指出，一切革命事业的发展，不会是直线上升的，而必然是迂回曲折波浪式地向前推进，一浪高，一浪低，后浪推前浪地不间断地滚滚向前。抗日战争和根据地的建设也必然是经过发展、巩固和提高这个过程，在巩固提高的基础上再向新的阶段发展前进。我们今天遭遇到困难，是前进中的困难。他满怀信心地说，我们一定能打败日本，但我们不应坐等胜利，而是必须经过主观的种种努力去争取实现它。
邓小平这一段话充分显示了他那种临危不惧，举重若轻和对胜利前途充满信心的革命家的风范，与此同时他还具体提出了战胜和克服严重困难的各项措施。邓小平在《迎接1941年》一文中提出，在1941年必须努力于三大建设的工作即建军、建政、建党。建军重心放在正规军的加强、游击战争的发展与军区工作的健全上；建政重心放在掌握和贯彻统一战线政策、正确执行三三制的原则、建设抗日民主政权、树立民主政治的基础上，并加强财政经济文化教育建设；建党重心放在加强群众工作、密切党与群众的联系、切实掌握党的各项政策、加强党对武装的领导和严密党的组织、提高党的纪律上。邓小平根据当时客观实际所制定的方针政策对克服根据地困难起到了重要的指导作用。
邓小平和卓琳在太行山。面对日寇和国民党反动派两面夹击的阴谋，邓小平根据中共中央和毛泽东的指示，在自己领导的太行区采取了诸多措施，如整训主力，加强太行军区的建设和地方武装及人民武装的建设，提高各级指挥员的作战指挥技能和战术素质，同时加强游击集团的组织，发挥游击集团的作用，这为反击敌人“扫荡”的胜利奠定了基础。
从1941年3月开始，日军连续进行了第一次、第二次和第三次“治安强化运动”，加紧对抗日根据地的“蚕食”，向根据地中心步步进逼。为应对这一严重局面，邓小平于4月底发表了《反对麻木，打开太行区严重局面》一文，提出了以武装斗争为核心的全面对敌斗争的方针，要求党政军民努力建设与发展地方人民武装，认真组织游击集团。
1941年春夏，按照邓小平的指示，太行、太岳地区组织了大量游击集团，参战人数达3.3万多人，打仗500余次，毙伤俘敌707人，缴获枪、炮、弹药3000多支(发)，破坏公路100多里。
1941年6月22日，苏德战争爆发，国际法西斯侵略行动猖獗到顶峰。这时侵华日军的气焰也异常嚣张，进一步扩大对中国的侵略。在1941年下半年中，侵华日寇采取了“铁壁合围”、“梳篦清剿”的残酷作战方式，长时间地、大规模地对华北抗日根据地进行疯狂扫荡。面对日寇的频繁而疯狂的“扫荡”，刘伯承和邓小平率领一二九师，一方面动员群众进行坚壁清野，坚持内线游击战，一方面组织主力部队和地方武装，对敌进行大小破击战和“反扫荡”战役。通过这些斗争，保存了主力，坚持了抗日根据地，同时还数次地反击了国民党顽固派阎锡山的进攻。