1941年1月4日，新四军9000余人从皖南云岭驻地出发绕道北上。6日，在泾县茂林地区突然遭到8万余国民党军队的严密包围和猛烈袭击。新四军将士虽奋力拼杀，终因寡不敌众，除2000余人突围外，大部被俘、失散或牺牲。奉命同国民党军队谈判的军长叶挺被扣；副军长项英、政治部主任袁国平、参谋长周子昆等遇难。这就是震惊中外的皖南事变。1月17日，蒋介石反诬新四军“叛变”，宣布取消新四军，将叶挺交付军事法庭审判，将第二次反共高潮推向顶点。
该不该与国民党决裂实行全面反击呢？毛泽东此刻非常冷静。他认为我们不能怕决裂，要采取强硬的态度，实行全面的政治反攻，军事上要做好充分的准备，但不能马上与国民党大打起来。1月17日，毛泽东根据刘少奇的建议，最终确定了“政治上取全面攻击，军事上取守势”的方针，以彻底粉碎国民党顽固派发动的第二次反共高潮。
在这一方针的指导下，中共中央为反击蒋介石的第二次反共高潮做了周密的部署。1月18日，延安《新华日报》发表了中共中央发言人的谈话，揭露皖南事变的真相，痛斥蒋介石1月17日的反动命令，呼吁一切爱国军民同胞，全世界同情中华民族解放事业的公正人士，“与我们站在一条战线上，反对少数亲日分子及民族败类，打破他们的内战外和、投降卖国的无耻阴谋。”
1月20日，中共中央军委发布毛泽东起草的重建新四军军部的命令，任命陈毅为新四军代理军长，张云逸为副军长。刘少奇为政治委员，赖传珠为参谋长，邓子恢为政治部主任。同时，毛泽东以中共中央革命军事委员会发言人的身份向新华社记者发表谈话，提出了共产党关于解决皖南事变的十二条办法：第一，悬崖勒马，停止挑衅；第二，取消1月17日的反动命令，并宣布自己是完全错了；第三，惩办皖南事变的祸首何应钦、顾祝同、上官云相三人；第四，恢复叶挺自由，继续充当新四军军长；第五，交还皖南新四军全部人枪；第六，抚恤皖南新四军全部伤亡将士；第七，撤退华中的“剿共”军；第八，平毁西北的封锁线；第九，释放全国一切被捕的爱国政治犯；第十，废止一党专政，实行民主政治；第十一，实行三民主义，服从《总理遗嘱》；第十二，逮捕各亲日派首领，交付国法审判。
遵照毛泽东和中共中央的指示，各抗日根据地军民严阵以待，并纷纷发出通电，强烈声讨顽固派破坏抗战的罪恶行径。以周恩来为书记的中共中央南方局在重庆同国民党顽固派展开谈判斗争，并在宣传战线进行了猛烈攻击。
中国共产党的这种以民族利益为重的正义自卫立场，赢得了广泛的同情和支持。各界人士、各民主党派纷纷致电、致函蒋介石及国民党中央，呼吁团结，反对分裂。国际上，对国民党顽固派的反共高潮，不仅苏联表示反对，美英等国也很不满意。
国内外舆论的谴责，共产党的强硬态度，使蒋介石不得不收敛反共活动。1月26日，蒋介石在国民党纪念周上发表演说，极力缩小皖南事变的范围，称之为“完全为整肃军纪，当然不牵涉其他问题。”对此，毛泽东估计蒋介石会调整政策，谋求与共产党妥协。因此，共产党对国民党的方针应该是：政治方面，继续攻势，坚持“十二”条，在适当条件下不拒绝妥协；军事方面，不向国民党军队主动攻击，但不松懈准备。
蒋介石为了摆脱政治上的尴尬局面，决定于1941年3月1日召开第二届国民参政会，企图通过诱骗中共参政员参加会议来掩饰其破坏国共合作、瓦解抗战营垒的罪行，缓和国内外舆论的压力。各民主党党派也希望通过这个会议来缓解一下国共矛盾。
为击破蒋介石的阴谋，争取中间派势力，3月2日，根据中共中央的指示，共产党参政员董必武、邓颖超致函国民参政会，提出临时解决办法12条，作为出席参政会的条件。这12条是：一、立即停止全国向我军事进攻；二、立即停止全国的政治压迫，承认中共及各党派之合法地位，释放西安、重庆、贵阳及各地之被捕人员，三、启封各地被封书店，解除扣寄各地抗战书报之禁令；四、立即停止对《新华日报》之一切压迫；五、承认陕甘宁边区之合法地位；六、承认敌后抗日民主政权；七、华北、华中及西北防地，均仍维持现状；八、于十八集团军之外，再成立一个集团军，共应辖有六个军；九、释放所有皖南被捕干部，拨款抚恤死难者家属；十、发还皖南新四军全部人枪；十一、成立各党派联合委员会，每党每派出席一人，国民党代表为主席，中共代表副之；十二、中共代表加入参政会主席团。
前后两个十二条，最大的变化是中共不再追究国民党皖南事变制造者的罪行，充分表现了共产党人的宽广胸怀。但蒋介石还是不愿答应。毛泽东遂指示中共参政员决不能无条件参加参政会。蒋介石的企图因此落空了。内外交困的蒋介石不得不退却了。他在共产党参政员缺席的第二届参政会不得不表示：“以后亦决无‘剿共’的军事”。蒋介石发动的第二次大规模反共高潮被打退了。
蒋介石制造皖南事变，似乎表明国共关系已经破裂。但毛泽东仍从民族最高利益出发，尽力维护团结抗战的局面。然而毛泽东等人也知道只有通过斗争才能达到团结。蒋介石就是从共产党以往为抗战大计所作出的退让中，错误地认为共产党怕国共关系破裂才日益放肆起来的。毛泽东洞察蒋介石的阴暗心理，在政治上大力反击蒋介石的反共行为，向全国、全世界揭露蒋介石消极抗日、积极反共的真面目，确实是击中了蒋介石的要害，迫使他不得不收敛反共行径。军事上，毛泽东保持极大的克制，不实行“以眼还眼，以牙还牙”的报复政策，使得国共合作共同抗战的大局得以存续下去。