当党内争论仍在进行时，蒋介石已于6月16日发出“会剿”闽西朱毛红军的命令。此时，担任红四军政治部主任的陈毅认为，大敌当前，必须停止争论，团结对敌，于是他建议召开红四军第七次党的代表大会，以解决争论的问题。
6月22日，经过仓促准备的红四军党的七大在龙岩召开，陈毅主持会议。会议就红四军党内长期存在的建军思想和建军原则的分歧进行了讨论，通过了陈毅起草的《红四军第七次代表大会决议案》，决议一方面否定了前委下再设军委的意见，认为确系机构重叠，但对极端民主化、单纯军事观点、流寇思想，因多数人未接受而未提出批评，使这个决议成为“并没有把问题彻底解决”的折中议案。会后，毛泽东离开红四军带领谭震林、蔡协民、江华、曾志等，离开部队去蛟洋指导闽西地方工作。
之后不久，陈毅前往上海参加中央政治局召集的军事会议。
陈毅在会上对红四军成立两年来的革命斗争，红四军党内无产阶级思想和非无产阶级思想的矛盾，尤其是红四军党的“七大”和毛泽东离开部队去闽西指导工作等情况，作了如实的汇报。政治局鉴于红四军的经验和问题极为重要，决定由李立三、周恩来、陈毅3人组成一委员会，由周恩来召集，负责起草对红四军工作的指示文件。
会后，陈毅按照周恩来多次谈话和中央的精神，代中央起草了《中共中央给红四军前委的指示信》，9月28日经中央讨论通过，这就是党史上有名的《九月来信》。
《九月来信》肯定红四军的斗争经验，肯定建立农村革命根据地思想。明确提出了红军的基本任务，要求红军纠正一切不正确倾向，并指示毛泽东“应仍为前委书记”，前委要维护朱德、毛泽东的领导，团结全体同志努力同敌人作斗争。
陈毅将《九月来信》的精神传达到红四军。11月26日，毛泽东在中共福建省委巡视员谢汉秋陪同下，回到红四军，与朱德、陈毅见面。毛泽东表示接受《九月来信》对他的批评并愿按《九月来信》精神回前委工作，陈毅也诚恳地当面向毛泽东作了检讨。毛泽东看到陈毅的思想水平提高这么快，非常高兴，身体和精神都复原了。
11月28日，毛泽东和朱德、陈毅召开前委会，根据《九月来信》的精神，正式决定召开红四军第九次党代会。
经过一个月的准备，具有深远历史意义的中共红四军第九次代表大会于12月28日在上杭古田廖家祠堂召开。大会由陈毅主持，与会代表热烈讨论了中央的指示信和会议的各种报告，共同总结了经验教训，统一了思想认识，一致通过了《中国共产党红军第四军第九次代表大会决议案》(通称古田会议决议)，选举毛泽东、朱德、陈毅等11人为前委委员，杨岳彬等3人为候补委员，毛泽东重新当选为前委书记。
1931年1月17日，中央局决定在富田成立相当于省委的赣西南特委，指定陈毅为书记，曾山、陈正人等为委员，下设东、西、南、北4路分委。
陈毅就任赣西南特委书记后，面临的首要任务，就是接受中央局和总前委的指示，开展肃清AB团的斗争。在这场斗争中，陈毅开始的态度是坚决的。但后来面对肃反被严重扩大化了的事实，陈毅冲破原定的框框，深入基层，调查研究，对那些被乱抓乱押的人，凡无真凭实据的，他下令释放。1932年1月，陈毅和李富春、吴德峰受命组成国家政治保卫局江西分局委员会(原为省肃反委员会)后，更是深入到“重灾区”，在短短几个月中即重新审理“反革命”案件达1000余件。陈毅的态度，使掌握肃反大权的人大为恼火，他们要把陈毅整为AB团的团长，幸亏毛泽东支持陈毅，他们才没有得逞。
1933年2月，为准备反对蒋介石对中央苏区的第四次“围剿”，中央局决定取消江西省苏维埃之下的军事部，改设江西军区总指挥部。陈毅兼总指挥，李富春为政委。
随后，陈毅和李富春指挥江西军区独立师、团及地方游击队于千岩万壑、鸟道羊肠之间，神出鬼没地牵制、骚扰、袭击敌军，有力地配合了第四次反“围剿”的胜利。
中华苏维埃共和国中央政府办事处主任陈毅。第四次反“围剿”战争胜利后，红军损失很大，为此陈毅把扩大红军当作一项重要任务来抓。5月间，他从宁都到兴国，亲自动员兴国30％的党、团员和5500人的兴国模范师，在“武装上前线”的口号下，集体加入了红一方面军。消息一传出，军民振奋。5月14日，朱德、周恩来、王稼祥及红一方面军全体指战员致电陈毅、李富春，表彰江西军区兴国模范师“是苏区模范中的模范”，号召全中央苏区向模范师学习。
9月间，国民党军开始对中央苏区的第五次“围剿”。王明路线的领导者，错误地喊出“御敌于国门之外”、“不丧失一寸土地”等口号，命令红军主力进攻敌人有重兵把守的据点，以致接连遭到失败。10月上旬，陈毅奉命率江西军区部队配合东方军进攻敌人有重兵把守的硝石，战斗打得很艰苦，部队伤亡很大，被迫撤回。
11月，陈毅被中革军委任命为新成立的西方军司令员兼政委，其任务是在中央苏区的西北线阻挡敌西路军的进攻，配合红军主力作战。
12月上旬，陈毅指挥西方军之独立二、三团在新干县七琴圩歼灭国民党江西保安二师大部，活捉敌师长李向荣，缴获大量武器弹药。
七琴圩战斗，震动南昌，敌人迅即将第八十一、八十九师调到西线，加强防御。这样，减轻了红军在北线的压力。
1934年1月，陈毅到瑞金参加中华苏维埃第二次全国代表大会，再次当选为中央执行委员，并被授予二等红星奖章。
此时，“左”倾领导者指挥红军冒险进攻接连失利后，转而实行防御中的保守主义，以碉堡对碉堡，陈毅对这种消极防御战略方针深怀忧虑。5、6月间，他先后写出并发表了《开展游击战争的潮流》、《最近时期西北线游击斗争的检查》等文章，主张战争的组织者应从实际出发制定作战方针，以我之长，击敌之短，“集中一切力量潜入敌人之远后方”。但这些意见没有被采纳，反被指责为“鼓吹游击主义，实属典型的机会主义”。
8月28日，陈毅在兴国老营盘指挥西方军作战时，不幸右胯骨被敌弹击中，造成粉碎性骨折，被抬到后方医治。
中央红军长征后，陈毅率部队在赣粤进行艰苦的三年游击战争。面对少数人的动摇开小差，陈毅不主张严厉打击，说“捆绑不能闹革命”!抗战爆发后，他又投入到改编南方游击队的新工作中去。
1934年10月，中央红军主力开始长征。另成立中共中央分局、中央军区和中华苏维埃共和国中央政府办事处，领导留下的红二十四师及地方武装共1.6万余人，在中央苏区坚持斗争，由项英任中央分局书记、中央军区司令员兼政治委员，陈毅任中央政府办事处主任。中央规定，必须待野战军突围到湖南后，才能公开宣布野战军突围转移的消息，并划定瑞金、会昌、于都、宁都4个县城之间的“三角地区”，作为必须坚守的阵地。
10月14日上午，中央分局举行第一次会议，分局委员均到会，腿伤未愈的陈毅躺在担架上参加了会议。会上，项英传达了党中央、中革军委赋予中央分局的任务和要求，宣布中央分局和中央政府办事处正式成立，陈毅也在会上发了言，他们一致认为，党中央率红军主力能否胜利转移，关系到党和红军的命运和前途。因此，应立即积极行动起来，掩护、策应党中央和红军主力的战略转移。同时，应迅速部署开展游击战争。
为适应斗争形势，陈毅和项英一起，在组织上陆续采取了一系列措施。包括：派张鼎丞等一批得力干部，分赴各地领导开展游击战争；精简机构，疏散安置家属和老弱病残干部，少数送到白区治病；新建中共信(丰)南(康)赣(县)特委和军分区(后改为赣粤边特委和军分区)，调红军1个营去赣粤边开展游击战争。这为尔后转战赣粤边打下了基础。
1935年2月5日，遵义会议后的党中央书记处给项英和中央分局发来“万万火急”的电报，指示成立以项英、陈毅、贺昌三人集体领导的革命军事委员会中区分会，以领导中央苏区及其邻近地区的游击战争，其余领导干部分配去各地领导战斗。
3月初，形势越来越危急，陈毅等决定部队分9路突围，他们和司令部所在的1路最后突围。
贺昌带两个营于下午首先突围，中敌埋伏，部队被打散，贺昌牺牲。陈毅和项英率1个营行动时已是晚上，刚出动，就碰到敌人阻拦，转不出去。他们当机立断，决定分散行动，改向赣粤边突围。这时，巧遇原代英县委书记曾纪才，即由他带着走崎岖山路，突出重围，于3月下旬到达大庾(今大余)东南的油山，与赣粤边特委领导人李乐天、杨尚奎等会合。
接着，赣南军区司令员蔡会文和少共赣南省委书记陈丕显率领突围的余部也到达油山，加上原在那里坚持斗争的游击队，共1400余人。于是，项英和陈毅确定在油山建立根据地，开始了在赣粤边坚持三年游击战争的艰苦历程。
国民党赣南第六绥靖区司令官余汉谋，便指挥正规军和保安团队三四万人，对赣粤边游击区开始大规模“清剿”，狂言“要在3个月内消灭游击队”。项英和陈毅面对超过我军数十倍的强敌进攻，坚定地紧紧依靠群众，运用公开半公开、分散与集中、武装斗争与群众斗争相结合的方针，来领导反“清剿”。
陈毅他们不能住村庄，就用树枝、茅草或竹子搭棚隐蔽，后因棚子目标大，就改用雨伞，或在雨布四角钉上绊子，挂在树上，既遮露挡雨，又携带方便。
为缩小目标，项英和陈毅把游击队化整为零。多则十余人，少则三五人，在打游击的同时寻找机会做群众工作，成为“武装工作队”。红军战士们打扮成农民，把枪托锯短，与“清剿”的敌人捉迷藏，不到万不得已，决不轻易暴露目标。
在项英、陈毅的领导下，在赣粤边游击区军民的共同努力下，使国民党军“3个月消灭游击队”的“清剿”计划彻底破产。
对陈毅来说，在反“清剿”斗争中最困难的，莫过于缺乏药物。当年6月，他腿部伤1939年，坚持南方游击战争的部分领导人在江苏省溧水县水溪村合影。左起：陈毅、刘炎、刘飞、叶飞等。口复发化脓，行走困难，只靠万金油涂一涂，1个月后脓穿了，稍好了些。可到9月又化脓，待脓穿时，他凭着顽强的毅力，忍受巨大的疼痛，将腿捆在树干上，叫人拼命往外挤，挤出很多血水，还有两块碎骨头。这才把扯好的白布条抹上万金油，用竹签一点一点塞进伤口，他的伤口居然奇迹般的好了!
斗争的残酷，加上客观条件差，少数人动摇开了小差。对此，有人主张严肃处理，而陈毅和项英一致认为内部问题要靠民主的方法解决。陈毅说：“对开小差的抓回来就杀，对讲怪话的就斗争，那是自己挖自己的墙脚嘛!靠这种办法是没法巩固队伍的，这是国民党的办法，我们共产党无论如何不能采用。革命是自愿的，决不强迫，不能逼着人家革命，更不能绑着人家革命。”陈毅和项英商定，对游击队中意志不坚定的人，先劝说留下，如一定要走的也不要勉强。由于处理的方式得当，红军内部的团结得到了巩固。
1936年11月，陈毅在梅岭被敌围困20余日后，难以脱身，九死一生。他在当时写下了《梅岭三章》的诗词：
断头今日意如何？创业艰难百战多。
此去泉台招旧部，旌旗十万斩阎罗。
南国烽烟正十年，此头须向国门悬。
后死诸君多努力，捷报飞来当纸钱。
投身革命即为家，血雨腥风应有涯。
取义成仁今日事，人间遍种自由花。
陈毅这首气壮山河的诗词，是陈毅革命坚定性和彻底性的真实写照。
事有凑巧，陈毅留下“绝笔”的当天，敌人没有来搜山，第二天又因发生西安事变的消息传来，也就暂停搜山了。
1937年7月，卢沟桥事变后的几天，国民党军停止了对红军游击队的进攻。这时，项英、陈毅从进步报刊上看到毛泽东当年5月一次报告的摘要，其中讲到民族矛盾和国内矛盾有所变化，为建立抗日民族统一战线，作出停止武力推翻国民党等项保证。陈毅高兴地说：“好啦!毛泽东同志说话啦!”他们据此对工作作了调整，将重点转向抗日，并将赣粤边红军游击队改名为赣南人民抗日义勇军。
上海“八一三”抗战爆发后，蒋介石被迫承认南方各省共产党和红军游击队的合法地位，游击区周围的国民党军陆续撤走。项英、陈毅鉴于时机成熟，确定以陈毅的名义，于9月3日给大余县长彭育英发去“快邮代电”，表示：赣南人民抗日义勇军决定停止军事活动，国民党应停止对游击区的进攻。彭育英当即回信，希望游击队派一负责人去谈判。
由于大余县长对陈毅在谈判时所提条件不敢作主，便请他到赣州与江西省政府的代表谈判。
陈毅与国民党谈判代表、江西省保安处长熊滨经过激烈斗争，对红军游击队改编为抗日武装及集中后待遇等问题，于16日达成了协议。
在这期间，项英、陈毅从全局考虑，派陈丕显等向闽赣边红军游击队传达党中央指示精神，为尔后将各游击区的力量联合在一起作了准备，这就同党中央决定将南方8省红军的游击队集中整编想到一起去了。
国共两党的合作，结束了三年游击战争时期。陈毅后来对这三年的游击战争，是这样评述的：“这三年游击战争，是我在革命斗争中所经历的最艰苦最困难的阶段。”