1935年1月中旬率部先后占领湄潭、绥阳等县城，并向乌江下游思南警戒，保卫遵义会议顺利召开。遵义会议后，率部配合主力在赤水河地域寻求摆脱追敌的方向与战机。历时约2个半月。2月初中央红军进入扎西地域。中央政治局在扎西召开会议，决定常委分工，由洛甫接替博古在党内负总责，通过了遵义会议决议等。3月28日朱德令红九军团留在黔北佯装主力，掩护主力红军南渡乌江。次日，罗炳辉率部在干溪出发，向马鬃岭分兵。完成任务后，因故被隔断在乌江北岸。此后，罗炳辉率部单独行动。先后取得老木孔伏击战、智取瓢儿井、猫场脱险等胜利。经贵州盘县的江上进入云南平彝县（今富源县），占板桥，围宣威，取会泽，经树桔渡（今东川市境内），渡过金沙江，掩护中央红星纵队在皎平渡过金沙江，摆脱了尾追的敌军。至5月21日在四川西昌，九军团与红一方面军主力会合，单独行动50余日方告结束。被周恩来誉为“战略骑兵”。5月继续掩护中共中央和中央红军主力北上。其后罗炳辉遵朱德、毛泽东、周恩来“万万火急电”抱病翻越二郎山，于6月7日袭占天全，为红军继续长征北上打通了道路，使红军摆脱了危局。接着，率部翻越了夹金山、梦笔山、长板山、打鼓山、拖罗岗（又名仑德山）五座大雪山。于7月初到达毛儿盖，与四方面军会师。7月21日中共中央在芦花（今黑水城）开会决定，会师后的红军混合编排行军队列，分左右两路北上。红九军团改称红三十二军，辖九十四、九十二两个师，随左路军行动。由于张国焘坚持错误路线，致使红三十二军滞留川西。直至1936年6月下旬，贺龙在甘孜宣布中共中央决定，红二方面军成立，辖二军团、六军团、三十二军。三十二军转归二方面军建制，罗炳辉及其三十二军得以彻底脱离左路军。
1936年7月率三十二军担任二方面军后卫，继续长征北上。后第三次过草地，经过3个月艰苦的行军，于10月22日胜利到达陕北，在将台堡与一方面军会师。11月红三十二军在洪德休整，所属两个师六个团整编为三个团，即二八○团、二八二团、二八六团。整编后罗炳辉率部参加山城堡战役。
1937年1月率三十二军驻陕西富平县十八坊。新成立军政委员会，罗炳辉任主席。2月下旬中央军委组建“援西军”，援助西路军，刘伯承任司令员，罗炳辉任副司令员。部队进至镇原平凉地区时，因西路军失败，援西军奉命停止前进。经多方努力，仍接回许多西路军突围出来的红军指战员。4月到后抗日军政大学学习。其间，杨厚珍与其离婚。9月罗炳辉与张明秀结婚。12月到八路军武汉办事处工作。以八路军副参谋长名义开展统战工作，直至1938年9月。
1938年9月从武汉八路军办事处回到延安，列席了中共中央六届六中（扩大）全会。行前，中共南方局书记周恩来对罗炳辉说，中共中央同意派他到新四军工作。11月六届六中（扩大）全会结束后，罗炳辉从延安启程赴新四军报到。途中，在西安八路军办事处与从武汉八路军办事处撤返延安的妻子张明秀相遇。夫妇一同前往到新四军工作。月底，抵达皖南泾县云岭新四军军部，罗炳辉被任命为一支队副司令员，司令员为陈毅。
1939年1月抵江苏南部茅山地区，到新四军第一支队履职。此后数月协助陈毅司令员，带领一支队在茅山地区站稳了脚跟。4月底随叶挺军长到江北，抵安徽庐江县东汤池。5月中旬新四军江北指挥部成立。指挥张云逸，政治部主任邓子恢，参谋长赖传珠。其后，徐海东、罗炳辉先后任副指挥。7月，新四军第五支队在津浦路西定远县藕塘镇安子集成立，罗炳辉任支队司令员、支队党委委员。该支队不为国民党政府当局所承认，斗争极为艰苦复杂。五支队成立后，在罗炳辉带领下，坚决实施东进计划，向津浦路东挺进。先后三战来安，挫败了日军和伪军的嚣张气焰，粉碎了李晶仙、韩德勤部的挑衅。
1940年3月，国民党安徽省政府主席兼第十一集团军总司令李品仙所部，围攻津浦路西的中原局、新四军江北指挥部及四支队。罗炳辉率部从路东到路西支援反击敌军，取得西线反顽胜利。国民党江苏省政府主席兼鲁苏战区副总司令韩德勤，趁西线激战时，偷袭路东五支队的根据地半塔集。罗炳辉采取守点打援战术，率五支队从路西返回路东，围歼进犯半塔集的顽军，取得半塔保卫战胜利，创造了守点打援的经验。至8月，淮南抗日民主根据地初步建立起来，来安、嘉山、盱眙、天长、高邮、宝应、六合、仪征等各县抗日民主政权相继建立。8月率领五支队主力渡过三河，击溃了韩德勤所部顽军，开辟了淮宝根据地，并平息了该地区“刀会”的叛乱。淮宝根据地的建立，打通了新四军进一步东进的通道，并成为把淮北、淮南、淮海、苏中、盐阜几块根据地联系起来的纽带。此后数月，又率部粉碎了日伪军万余人对淮南抗日根据地的扫荡。
1941年1月江北指挥部副指挥罗炳辉带领四、五支队和地方武装、民兵举行比武大会。1月14日皖南事变发生后。罗炳辉与陈毅等7位新四军将领联名致电蒋介石，要求其解除对新四军的包围，严惩祸首，保障我军安全。
1月25日新四军新军部在苏北盐城成立，下辖7个师，罗炳辉任二师副师长。二师下辖第五、六、七旅。5月淮南区党委成立，罗炳辉为委员。抗大第八分校在天长县成立，罗炳辉任副校长。至1945年8月该校共办学4期，培训干部3000余人。在此前后至1942年上半年的反扫荡、反顽作战中，罗炳辉创造了“梅花桩战术”，并指挥部队广泛采用了近战、夜战、歼灭战战术，先后取得了大桥、新张家、赫郎庙等战役的胜利。1942年刘少奇在华中局扩大会议总结报告中指出，“梅花桩是一种新的战术，罗炳辉同志在这方面的发明努力是一个模范。”1942年秋参加整风运动学习。11月指挥部队支援反击桂顽对路西根据地的进攻。
1943年2月任新四军二师师长兼淮南军区司令员。4月盟日在《淮南党刊》第12期刊载《开展部队机关的生产运动》一文，号召深化淮南的大生产运动。9月李晶仙所部顽军抢占路西界牌集，罗炳辉率二师师直野战司令部赴路西指挥反击战。至11月底取得反击战胜利。11月撰写并出版《碉堡作战》。
1944年5月此前，罗炳辉曾数次出现晕倒。5月8日大病不起，入军卫生部庄医院治疗，历时100余天。后新四军军部再批准他休养3个月。休养中，开始口述，让参谋陈慕诚帮助撰写红九军团担任后卫的战斗历程。
1945年4月二师主力在谭震林带领下，赴路西反顽作战。日军乘机派出3删除人扫荡路东根据地。罗炳辉抱病指挥了路东的反扫荡，历时月余。7月罗炳辉病情反复发作，下旬，到师部大郢北高峰脚下一片槐树林中休养。8月15日日本宣布五条件投降。随后，华中局和新四军军部根据中共中央指示，发布《新四军布告》，其中公布了江苏、安徽、浙江、湖北的省主席和南京、上海、武汉三市市长名单，罗炳辉被宣布任安徽省主席。随即，罗炳辉抱病指挥消灭拒绝投降的日伪军，先后收复了来安、定远、盱眙、嘉山、六合、天长等县城，部分控制津浦铁路。至9月日本投降，淮南解放区达17个县，人口330万，面积2万多平方公里。新四军二师兵力由成立时的新四军五支队3100余人，发展到35000人，地方部队15000人，民兵200000人。10月率二师师部及第四、五旅告别淮南北上山东。在淮北宿迁与四师九旅合编为山东野战军第二纵队，罗炳辉任司令员。部队进至鲁南。11月被蒋介石收编的日伪军吴化文部北犯解放区。罗炳辉率第二纵队，参加伏击该敌，取得鲁南自卫战的首次大捷，接着又取得临韩战役胜利。12月27日离职到临沂治病。韦国清接任司令员。
1946年1月3日食道大出血，经月余治疗，病势得到控制。4月4日中共中央任命罗炳辉为山东军区第二副司令兼新四军第二副军长。4月底中止休养，抱病赴鲁南前线视察，动员部队做好反内战准备。此行直至6月中旬病危。6月9日指挥部队收复枣庄，歼灭国民党收编后任命的少将司令王继美及其所部近2300人。此役，是罗炳辉一生指挥的最后一次战斗。6月14日向新华社记者发表谈话，揭露国民党蒋介石的内战阴谋。6月19日与陈毅等研究山东战场局势。6月21日，由于连日劳累，罗炳辉在峄县重病复起，高烧不断，数次昏迷，疼痛难忍。因峄县医疗条件差，转回临沂治疗。途经兰陵镇病情恶化，抢救无效，于17时逝世。6月28日，安徽天长县改名为“炳辉县”（1960年恢复原名）。遗体于逝世第二日凌晨运回临沂。临沂召开十万军民的追悼大会，中共中央发唁电吊念。遗体葬于临沂城外。后国民党军队占领临沂，罗炳辉遗体遭凌辱，幸得群众的保护，至1950年临沂华东烈士陵园竣工时，得以迁葬陵园，周恩来、刘少奇、朱德、陈毅、任弼时等为罗炳辉将军陵墓题词。
1959年，天长县建立“罗炳辉将军纪念馆”。
1987年8月1日，罗炳辉将军铜像在安徽合肥卫岗（省军区前）落成。云南彝良县建成“罗炳辉将军纪念馆”。
1989年11月，罗炳辉被中央军委确定为中国人民解放军33位军事家之一（1996年增补为36位）。
1996年6月，安徽举行“纪念罗炳辉将军逝世50周年”系列活动。
1997年7月，江泽民为罗炳辉将军诞辰100周年题词：“人民功臣罗炳辉将军”，11月——12月，中共云南省委、昭通市委、彝良县委，以及中共安徽省委、合肥市委、滁州市委、天长市委分别举行“纪念罗炳辉将军诞辰100周年”系列活动。云南省昭通市、彝良县，以及安徽省天长市分别塑建了罗炳辉将军全身和半身纪念铜像，出版相关图书和音像制品。
1998年2月19日，中共中央军委、中共云南省委在人民大会堂举行“纪念罗炳辉同志诞辰100周年”座谈会，张万年出席炳讲话，叶飞等老同志也出席了座谈会。
2004年3月-4月，“罗炳辉将军纪念网”、“罗炳辉纪念馆”、“罗炳辉将军之魂”和“罗炳辉将军网上祭奠馆”等纪念网站相继问世。