在各路群雄此消彼长的争斗中，朱元璋遵从九字箴言，实力逐渐强盛，当时还有一股力量与他相当，那就是自称汉王陈友谅，他自恃水军厉害，1360年，想凭借自己在水军方面的优势力量，沿江顺流东下，进攻应天府，想要一举吞并朱元璋占领的地盘。
朱元璋是个有勇有谋的人，见到这种局势，并没有马上排兵布阵应敌，而是采用了一个一个计策，将陈友谅一举打垮。原来他的一个部将康茂才年轻时与陈友谅一起举事，算是老朋友了。朱元璋设计让康茂才假意做内应，并且让康茂才串通陈友谅兵分三路攻打应天，以分散他的兵力。康茂才就派了一个得力的仆人去送信给陈友谅。
仆人连夜赶到陈友谅的驻地。陈友谅看了信以后并不多疑，问仆人问道：“康公现在在哪儿？”
仆人回答道：“他现在正带领着一批人马驻守在江东桥，准备接应大王”陈友谅信以为真，连忙又问：“江东桥容易找到吗？”
仆人说：“江东桥就是座木桥，很容易认出来。”
陈友谅又与仆人谈了一阵，了解了详细情况。便给了些赏赐，打发他回去。临行时，陈友谅更仆人约定了时间：“你马上回去对康公说，我立即带领人马赶去江东桥，请他马上接应。”
结果肯定是陈友谅到江东桥中了埋伏。刚开始渡江就受到突然袭击，让朱元璋的大军打的落花流水，由于是突然袭击，几万大军一下乱了阵脚，互相践踏，战死踩伤，落水淹死的不计其数。两万多士兵被生擒、几百多艘战船被摧毁。
此战之后朱元璋的声势壮大，成为各方力量中最有实力的一支。而陈友谅也是个不肯善罢甘休的人。在公元1363年四月，陈友谅纠集号称六十万人的大军，倾巢而出，进围朱元璋的属地南昌。朱军守将朱文正、邓愈、赵德胜、薛显率领全城将士殊死搏战，坚守八十五天，使陈友谅初战受挫，顿兵坚城之下进不得，退又伤面子，两军就这么耗着。而此时的朱元璋从容调兵遣将，准备与陈友谅决一死战。
最后，陈友谅在康郎山战役中，彻底失败，自己也在混战中被乱箭射死。
彻底消灭当时最强大的割据势力陈友谅以后，朱元璋意识到称霸天下的时机已经来到，便自立为吴王。
第二年，朱元璋任命徐达为大将军，常遇春为副将军，率军二十万讨伐另一股大势力张士诚。朱元璋的部队士气昂扬，很攻破城门，大军一拥而上，进入平江城内。张士诚的将士已无斗志，纷纷投降。张士诚见大势已去，纵火烧死妻儿，闭门上吊自杀，被其部将解救，徐达将其押送应天。破城之日，徐达严格约束部下，立下军令：“掠民财者死，毁民居者死，离营二十里者死！”朱元璋的军队纪律严明，秋毫无犯，获得了当地老百姓的信任。
这时南方已经平定，朱元璋任命徐达为征虏大将军，常遇春为，率领二十五万大军开始北伐。仅仅用了两个月，徐达的军队就占领了山东。公元1368年正月，朱元璋在应天即位称皇帝，国号为明。他就是明太祖。
此时元朝已无力再战。元顺帝逃至上都，很快残余势力就被扫平。统治中国九十七年的元王朝被推翻。