由于山东战场上的红巾军高级将领被元军采用种种卑劣的手段先后诱降，起义军内部出现自相残杀，而元军则坐享渔翁之利。红巾起义军再也没有了以前那种磅礴之势了，红巾军的中路军和西路军也在长期的流动作战中，因缺乏粮草的供给和足够的兵源补充，最终被元军打得大败。元军将领察罕帖木儿及他的养子扩廓帖木儿所率的元军在消灭了几个方面的红巾军主力之后，马不停蹄地又开始加紧对付山东的红巾军了。至正二十一年(1361年)山东方面起义军在元军的轮番攻打之下，最终还是失败了。在山东大部分地区沦陷后，最后一个据点益都也被元军围困起来。刘福通亲自率领大军前往解围，可是元军人多势众，他的大军也被元军击败了。转眼到了第二年十月，益都城被破，守城的红巾军高级将领统统被杀，山东全境已被元军占领。至此，红巾起义军大势已去。朱元璋面对这种形势深感不妙。在他占领应天的这几年时间里，之所以能够比较顺利地得以发展，就是因为有刘福通等人牵制了大部分元军的精力，使得元军无暇顾及朱元璋这支在当时还很弱小的起义部队。现在山东全境被元军占领之后，朱元璋以前所依赖的屏障轰然倒塌，令他心急如焚。朱元璋在坚持与陈友谅、张士诚作战的同时，还得提防与元军部队的正面交锋。为了能使自己腾出时间，全力攻打陈友谅和张士诚，朱元璋用了一个缓兵之计来对付元军，这就是利用“议和”，与元政府在一定时期内建立一种和平共处的方针政策。从当时的立场上来分析，朱元璋已经不再是一个纯粹的红巾军将领了，他更多的是处处从自身集团的利益出发。他所遇到的问题及解决问题的方式无不是从这个目的出发，以求自保。如果从整个反元大业的局面上来考虑问题，朱元璋的这个举动无疑是与自己当初的反元志向相悖，甚至走到反元斗争势力的对立面。经过察罕帖木儿的提议，元政府注意到了朱元璋所发出的议和信号，于是想招降朱元璋以稳定江南的局势。不久，元顺帝派户部尚书张昶、郎中马合谋与奏差张链带着御酒、八宝顶帽和任命朱元璋为荣禄大夫、江西等处行中书省平章政事的诏书，从大都出发，航海到了方国珍处，准备经此地去应天招降朱元璋。元廷通过方国珍与朱元璋打交道，是方国珍积极活动的结果。方国珍一度答应朱元璋的招降书，但后来又降了元朝，每年往大都运送张士诚提供的粮食，并为元朝招降朱元璋牵线搭桥，想左右逢源，两面讨好。为此元廷先后提升他为淮南行省左丞相、江浙行省左丞相。但朱元璋并不买他的账，故意置之不理。方国珍两次派人来到朱元璋的应天府递交诏书和礼品，都石沉大海，杳无音信。张昶等人在方国珍处整整住了一年，也没有见到朱元璋的回音。于是他们打算另找出路，告辞方国珍之后，他们又转往他处继续与朱元璋进行商讨招安的有关事宜。直到至正二十二年(1362年)六月，元军大将察罕帖木儿被进攻山东时所获的红巾军降将田丰、王士诚所杀，朱元璋的形势有了好转。他与身边的将士们经过讨论，分析出元朝内部的形势已经趋于紧张，元军的威胁已经随之减缓，不可能在近期内发动大规模的进攻，于是朱元璋态度也开始慢慢地强硬起来。至正二十二年(1362年)十二月，张昶一行人马带着元顺帝封朱元璋为江西行省平章的诏书来到了应天。他们刚到应天城，就吃了朱元璋的一个“下马威”，被朱元璋派的士兵扒去了元朝的官服。最后，推搡之下被带到朱元璋的面前，朱元璋吩嘱士兵给他们穿上官服，张昶等人并不为此感恩言谢。朱元璋大怒，斥责道：“元廷不明眼下时势的变化，都到了这时候了，他们还敢派你等来煽动蛊惑我的军民！”张昶等低头沉默不语，而马合谋却骂不绝口。朱元璋下令把他们统统捆绑起来，等着晚上枭首示众。
张昶已经在元朝为官多年了，熟知各种法典规章制度。傍晚十分，朱元璋吃过晚饭后，私下里来到了关押张昶的牢房，他问张昶：“你快要临死了，还有什么要说的没有？”张昶乃大丈夫也，誓不低头地说：“我为元廷卖命，尽心尽力，无怨无悔，无话可说。”“可你想过没有，元朝政府昏庸无道，欺压百姓，鱼肉人民，为这样的政府效忠，有什么正义可言，你这不是等于帮着那些贪官污吏协同作乱吗？”张昶对朱元璋的一席话语仍有抵抗情绪：“他们是他们，我是我，我张昶做事光明磊落，从不做害人害己之事，你要杀要剐，就赶紧来吧。”朱元璋站起来，摇了摇头，转身就了。可是刚走到牢房的门口，突然又转过身来，他向张昶问道：“听说你对元朝的法典制度很是熟悉，不知是真是假？”“是又怎样？不是又怎样？”张昶仍是一副大义凛然的样子。“我想向张君请教几个法典上的问题……”朱元璋向张昶问及了有关法律的十多个法律条文以及朝廷里的事，张昶对答如流。晚上，士兵们把张昶与马合谋、张链等人一起押到聚宝门外斩首，然后又把三颗血淋淋的头颅拿到福建边界悬首示众，以表明不受元廷招降的决心。几天后的一个下午，朱元璋唤来谋士刘基、宋濂，笑着对他俩说；“元朝给我送来一个大贤人啊，今后可以与你们共同一起为我议事了。”俩人正在发愣之时，只见张昶从屋中走了出来，他们对张昶没有被处死感到疑惑不解。原来，朱元璋爱他是个人才，不忍杀他，准备留用，在晚上行刑时，偷偷地用一个死囚给他当了替身。后来，朱元璋还任命张昶为行中书省都事掌管行政。察罕帖木儿已被田丰、王士诚刺死后，察罕帖木儿的义子扩廓帖木儿掌握了兵权。扩廓帖木儿派尹焕章出使应天，赠送马匹，却并放回被察罕帖木儿扣留的朱元璋使臣，企图换回朱元璋对元廷的信任。朱元璋遣都事江河送回尹焕章，并给扩廓帖木儿带去了亲笔信，声称他过去两次派人与其父察罕帖木儿通好，并没有请降元朝的意思，只是想与其父互为友好。为了保存和壮大自己的实力，朱元璋对元朝提出了“议和”的策略。虽然他借此拖延了打败陈、张两派势力的时间，却也因此引发了部分大将的反叛。可以说，朱元璋在对元政策上做了一次利弊两难的痛苦抉择。由于朱元璋当初提出的“议和”之举违背了反元的初衷，部分反元将领因此而反对朱元璋。在几起反对朱元璋的叛乱中，以苗军降将最多，他们大多数对元廷有着刻骨铭心的仇恨，在得知了朱元璋的这种行径之后，义愤填膺，非常生气，于是纷纷起来反对朱元璋，其中朱元璋手下的一代精忠名将胡大海就在叛乱中被谋害丧命了。大将邵荣因谋害朱元璋，事泄也被杀害了。赵继祖、宋国兴的反叛对朱元璋更是一次沉重的打击。朱元璋的对元朝的策略是跟着元朝的势力变化而变化的。当元军镇压刘福通之后，朱元璋采取了议和的态度。但是，接下来元廷内部争权，势力渐弱，朱元璋也就逐渐强硬起来。红巾军的大火在全国各地熊熊燃烧，元廷刚刚扑灭了这边的野火，那边又着起来。经过各地红巾军的轮番进攻，元王朝已经是大伤元气，奄奄一息了。刚刚剿灭了刘福通起义军，元廷内部又出现了新的内讧。彼此之间，互相倾轧，使得本已病入膏肓的元廷更是雪上加霜。在镇压红巾军的过程中，元廷形成了几个新派别的军阀。他们的实力都很强，他们分别是察罕帖木儿、孛罗帖木儿、李思齐和张良弼。察罕帖木儿在狙击刘福通西路军的北伐中力挽狂澜，大显身手，力控山西、陕西、河南、山东等地。而孛罗帖木儿乃是答失八都鲁之子。答失八都鲁当初在河南也曾打败过刘福通的红巾军，立有赫赫的战功。不过，由于他们没有及时有效地剿灭起义军的余势，因此使得朝廷怀疑他与红巾军暗通友好，答失八都鲁一气之下，卧病不起，含恨而终了。其子孛罗帖木儿子承父业，被任命河南行省平章政事，统领父亲的兵马继续征战。