至正十八年（1358年）底，朱元璋的军队已东下衢州（今属浙江）、婺州（今浙江金华），逼近方国珍所据的庆元、温、台诸地。十二月，朱元璋遣蔡元刚至庆元招降方国珍。国珍招集其兄弟谋曰：“方今海内虽乱，而元运未终，然惟建业善用兵，威振远迩，恐吾兄弟不足与抗。不如姑示顺从，以观天下之势。”乃遣其子完为质子入侍，元璋知其无诚意，命完归去。
至正十九年（1359年）1月，方国珍遣使奉书于朱元璋，并献黄金50斤、白银100斤、金织文绮百端。其书略曰：“国珍生长海滨，鱿盐负贩，无闻于时。向者因怨构诬，逃死无所，遂窜海岛。为众所推，连有三郡，非敢称乱，迫于自救而已。惟明公倡义濠梁，东渡江左，据有形胜，以制四方，奋扬威武，以安百姓。国珍响风慕义，欲归命之日久矣，道路壅遏，不能自通。今闻亲下婺城，抚安浙左，威德所被，人心晾从。不弃犷愚，猥加诲谕，开其昏朦，俾见天日，此国珍所素愿也。谨遣使奉书上陈恳款，或有指挥，愿效奔走。首言为定，明神实临。”
3月，方国珍遣郎中张本仁以温、台、庆元三郡献元璋，且以次子方关为质，不过，朱元璋又命方关返还了。9月，朱元璋授方国珍为福建等处行中书省平章政事、方国璋为行省右丞、方国瑛为行省参政、方国珉为江南行枢密院签院，并令奉龙凤为正统。但方国珍并无诚意投降朱元璋，虽说他接受了朱元璋的职位，却是心怀鬼胎，待其成败变化。他提出借口，不以“龙凤”纪年，暂且以“至正”作为纪年。
后来，方国珍却在地主政客刘仁本、张本仁等人的怂恿下，接受朱元璋封职才一个月，就又接受了元朝封他的江浙行省平章政事的官职。并于至正二十年（1360年）至二十三年（1363年），每年派出大批海船，运送张士诚的十余万石粮到大都（今北京）去，元顺帝大为赞赏，封方国珍为江浙行省左丞相，赐爵衢国公。至正二十二年（1365年）5月，方国珍曾遣使至山东察罕帖木儿处，并愿为之效劳，适察罕帖木儿被田丰、王士诚杀，察罕帖木儿养子扩廓帖木儿对国珍使臣“于礼特优”。
方国珍害怕朱元璋派军来攻，伪装“惶惧谢罪，以金宝饰鞍马献”。至正二十二年（1362年），朱元璋部下苗军元帅英叛乱，杀胡大海，持大海首级奔国珍，国珍不受，自台州奔福建。时方国璋守台，截击之，为蒋英所败，国璋被杀，朱元璋遣使吊祭。次年，温州人周宗道以平阳降元璋，方明善以兵争，元璋参军胡深击败之，进兵瑞安、温州。国珍恐，请岁输白银三万两，俟元璋下杭州城后，即纳土归附。元璋遂命胡深班师。而国珍仍北通扩廓帖木儿，南交福建陈友定，企图形成犄角之势。元廷对方国珍不断拉拢。至正二十五年（1365年），任方国珍为淮南行省左丞相。至正二十六年（1366年）9月，任方国珍为江浙行省左丞相，弟方国瑛、方国珉，侄方明善并为江浙行省平章政事。未过几年，晋升为太尉。
至正二十七年（1367年）4月，朱元璋的军队把湖州、杭州等张士诚统治区攻占下之后又向平江围攻，此时方国珍自知难保，又耍出了新的诡计，他一方面坐山观虎斗，一方面暗地里北通扩廓帖木儿，南交陈友定。
朱元璋在攻下陈友谅、张士诚的城池后，军队已有所疲惫，于是，他就和刘伯温、李善长商讨，如何以最少的付出让方国珍主动言降。
李善长认为，对方国珍这样见风使舵的人，可以直接写一封讨伐信，吓唬吓唬他，再据理相劝，不费兵力直接使他归降。
朱元璋说：“这主意好是好，但方国珍这样的人，心里时刻都在变化，说不准他哪天又不投降了，趁我们出击别地的时候，来个突然变卦，在后背插你一刀，也是很有可能的。”
刘伯温沉思良久方说：“看来征战是不可避免的，经历此前的长久战，此次不宜再派重兵，而且方国珍的兵力并不充足，又缺乏训练，素养差，长久未上战场。臣认为此次只需在浙东调集驻兵，先从陆地进攻，一方面占领了土地，另一方面方国珍也无路可逃。”
朱元璋听后，笑着说道：“好！方国珍没路可逃，你这番话正提醒了我，没路了，可是有船啊，那方国珍海船千艘，若真逃到海上称王，还是留有后患啊。”
李善长和刘伯温相视一望，两人都不得不佩服朱元璋考虑问题的周全。
商讨之后，朱元璋决定先让李善长执笔写招降书，看看方国珍的反应，同时谋划军事进攻的策略。
与其说以朱元璋之名发出的这封信是在招降，还不如说是在讨伐谴责方国珍。信中历数方国珍的12条罪过，每条都是他最没尊严的求降告饶、献礼之举，说他朝送款于西，暮送款于北，怎是大丈夫的行为。方国珍收到这封信时，当场暴怒。
这当然是朱元璋的计谋，他就是要让方国珍生气，气得一病不起最好，他就真的不用费力气了。但是朱元璋也知道，以方国珍的性情，当然会暴怒，但还不至于气到重病的地步。果然不久，朱元璋就收到方国珍的回信，确切地说就是一封乞降信，把朱元璋的英勇和实力赞美了一通，还言辞恳切地表示忠心。朱元璋当然不会再信他，不过，方国珍既然没中计，那出兵还是要再寻个理由。
7月，朱元璋又责令方国珍贡粮23万石，并写信威胁他，若不按时进贡，就武力相对。方国珍惶恐不已，日夜运珍宝，集海船，准备下海逃跑。可是，聪明如朱元璋，又怎么会放任方国珍不管呢？毕竟，方国珍也算得上一支势力强大的义军。方国珍以庆元（今浙江宁波）为根据地，占领了温州、台州以及浙东沿海一带，拥有千艘战船，掌控丰饶的鱼盐资源，对朱元璋的发展来说是必须要吞并的肥肉。
朱元璋在得知方国珍要逃跑这一信息后，立即行动。兵分三路，直入方国珍的势力范围。参政朱亮祖一路攻台州，方国瑛败逃黄岩；朱亮祖又攻温州，方国珍侄方明善逃走；朱亮祖分兵取瑞安，在乐清打败方明善，追至楚门海口。同时让汤和、吴祯率领驻扎在常州、长兴、宜兴、江阴等地的驻军合攻庆元。在这些老将的指挥下，浙东沿海地区有的是惧怕朱元璋的势力，不攻即破，有的是一攻即破，很快都被收归占领。方国珍逃入海中，朱元璋就让廖永忠率领水军从海路围守进攻，切断方国珍逃入海中的后路。
方国珍被多面夹击，尤其是廖永忠从海上与汤和从陆地的合击，让方国珍无法承受，且他的将领大多已经投降，只好送出所有的财产和船舰，彻底投降朱元璋，朱元璋总算平定了这方割据势力。
其实，在朱元璋攻打方国珍的同时，还计划着如何除去小明王。朱元璋知道自己多少年来都打着小明王的旗号，扮演忠义之臣的角色，也正是自己的仁义之名赢得了民心，赢得了将士们的忠心。要除掉小明王，那只有在暗处行动，让他死于意外，让天下人觉得小明王的死纯属偶然，和自己没有关系。而这个计谋当然不能和刘伯温商量，也不能和李善长说，并且对朱元璋来说就是设计杀个不经事的小明王，无须周折，只要把事情做得圆满就好了。
想了几天，朱元璋决定光明正大地行动。
这日早议，朱元璋对文武将士说：“我在应天也称了吴王了，可我们的主人还是小明王啊。当初称吴王也并无犯上之意，不过是为了给对抗张士诚找点事由，长些气势。如今强敌除掉了，我认为是去滁州迎接小明王的时候了。”
众人听到要迎小明王，顿时议论起来，尤其是汤和、徐达，他们愤愤地说：“东征西战，卖命的是我们的兄弟，死伤的也是这些兄弟，他小明王有何德何能来应天称王称帝！”
朱元璋立即喝止道：“不得无礼，红巾军自起义以来，信奉明教，忠义为名，才赢得如此形势，我认为此时理应前去迎接小明王，以建立大业。”
众人的议论声依然没有停止，在众人都讶异的时候，只有刘伯温捻须一笑。
朱元璋看在眼里，心中慨叹：“刘伯温果然堪称小诸葛啊，他太聪明了，但愿他这份聪明不要阻挡自己的野心。”
朱元璋起身说：“众人且不要再议论，当初徽州大学士朱升奉劝我‘高筑墙，广积粮，缓称王’这个建议的确是智者之举，就是这九字方针，奠定了我们今日的领地城池。明日即去迎接小明王，小明王就是我们应天的君主，各位不要再心存私念。”
第二天一早，朱元璋就派大将廖永忠前去滁州迎接小明王。
廖永忠一到滁州，片刻不歇，即让小明王收拾些物品，说是日子已经确定，不得不赶路，否则江中起风太过危险。小明王要带随身侍卫同去，廖永忠就对他说：“应天比这滁州好多了，你什么也不用带，就我和你两人火速乘船前去应天，吴王已经为明王安排好一切了。”
行至瓜洲，突然船破，船尾、船头进了很多水，水正涌向船舱。而小明王大叫自己不会水性，让廖永忠补船。廖永忠也不说话，随即跳向附近的一条渔船走了。
第二天清晨，廖永忠即前去应天府请罪，说行船的时候，不料船撞上暗礁，漏水，恰逢夜黑，无法修补，而小明王不会游泳，天黑夜冷的，自己未能救出小明王，险些丧命，被渔民相救，才回到应天。
朱元璋听此，大怒道：“小明王是我们的君主，怎能如此疏忽。廖将军虽屡次立功，但功不抵过，斩首。”
汤和、徐达这些老将赶紧出来相劝，刘伯温、李善长也从中说好话，最后，全军将士一起为廖永忠求情，朱元璋才赦免他的死刑。
小明王死后，朱元璋就不再用龙凤年号，他成了名副其实的国君，只是还没有正式宣告天下罢了。
自此，朱元璋的强敌已被逐渐除去，而他的建国之路也不远了。