至正二十年（1360年），陈友谅将徐寿辉杀死后便自立为王，定国号为汉。随后，陈友谅占领了江西、湖南和湖北周边地区，掌控了长江中下游地区，形成了一股强有力的割据势力。俗语说得好：“一山不藏二虎。”陈友谅称帝没多久，就亲率强大勇猛的水军由采石顺江东下，向应天府发起进攻，打算将朱元璋占据的地区一举兼并。
采石被陈友谅攻下之后，朱元璋知道要面对强敌了，他扩展地盘的行动已经惹起周围势力的注意。一系列事件让朱元璋明白，此时的陈友谅在群雄中不仅军力最强，疆土最广，野心也是最大的。
强军突袭使得应天城里人心惶惶，朱元璋马上召集部下商量对付汉军的策略。众人议论不休，有人认为应尽早投降，有人觉得应尽快逃跑，也有人力主与敌军拼死抗战。朱元璋非常忧虑地对刘伯温说：“陈友谅是个不择手段的人，进攻采石是他想攻应天的前奏啊，且还趁我们不注意攻下了池州。”
刘伯温说：“这个人最不讲道义，以现在的形势看来，若陈友谅和张士诚联合起来，那应天就很难守卫。”
朱元璋知道这是自己最关键的时刻，成者为王，败者为寇。能否取胜，就取决于如何谋划应对现在的战争形势，以及用什么样的军事战略才能击败强敌。
面对最强的陈友谅和最富的张士诚这两个邻敌，到底先攻哪个，朱元璋拿不定主意，便找刘伯温商量看有何妙计。
刘伯温和朱元璋秘密商谈很久，认为目前一定要主动出击，问题就是用什么样的打法。最后在两种策略间犹豫，迟迟无法选择。其实两种都是两线作战的方法，只不过方式不同。一种方法是对陈友谅和张士诚同时作战，把这两个强敌都打下去，兵分两路，主攻陈友谅，张士诚那边以攻为守；另一种方法是，集中主要兵力，先看准两者中谁的弱点最明显，奋力进攻，待胜利后，立即回转对付另一方。朱元璋其实更倾向于同时对付张士诚和陈友谅，但他也知道自己的实力有些危险，更担心张士诚若和陈友谅联合起来同时对付自己，那就更危险了。
刘伯温建议说：“一直以来和周围的邻居都有大小纷争，但只有陈友谅的野心最可怕。张士诚虽然最富，但他没野心，没野心的人不用怕他。伯温以为，到了现在，只有争取军事上的主动权，集中力量对付最强的敌人陈友谅。因为陈友谅已经对应天虎视眈眈，打下陈友谅，不仅能自保，而且是取得天下的关键。”
朱元璋觉得刘伯温的分析很有道理，他点点头说：“恐怕若两线作战，胜券较少。而和陈友谅的战争将是一个长久战，没那么快也没那么容易结束。所以，为了确保这一持久战打胜，就必须和周围的邻居修好，让他们不在我们出兵的时候突然袭击，且上游无事，张士诚就势力孤单，容易攻打。”
刘伯温随后又说到：“方国珍与张士诚都好对付，但是我们此时还必须消除元朝对我们的注意。臣以为，我们可以先与元朝修好，等拿下陈友谅后再从长计议。”
朱元璋说道：“我们跟元军除了打仗还是打仗，这修好，真是让我自觉羞愧。元璋宁愿战死，也不愿向元朝不弱。”
刘伯温说：“气节当是如此，但是大帅如今要以大局为重啊，非常时期用些技巧是不得已而为。伯温以为可以向元朝送乞降书一封，先让元兵不来攻，极力对付陈友谅。”
朱元璋脸上顿时变了：“怎能向元朝乞降呢！”
刘伯温道：“刚才已经说了，这只是技巧而已。群雄之中，哪个不是今日和你好，明日又和你斗！元兵不也是忽而这样，忽而那样，兵家言降，只为计策。”
朱元璋叹口气道：“现在也只能这样了，问题是元兵不会怀疑我们是假降吗？”
刘伯温道：“这个还请大帅放心，伯温来写这封乞降书，保证元朝不会有所怀疑。”
朱元璋这时才想起，刘伯温是元朝的进士，又做过官，由他出面的确是完全之策。
向元朝假降的同时，朱元璋还派人拉拢安抚远方的方国珍，极力向张士诚出示修好之心，对和张士诚有纷争的小地方都愿意拱手相送。这样，朱元璋身边的邻居算是有了暂时的安静。
身边的势力安抚了，朱元璋、刘伯温两人在室内密议，商讨出击陈友谅的战策。刘伯温道：“陈友谅虽然甚为勇猛，却缺乏才智与谋略。尽管敌军众多，但他们远道而来，深入我军区域将疲乏不堪。我军则养精蓄锐，还担心无法获胜吗？若您多奖赏众将士，事先设好伏兵，并设计诱使陈友谅尽早对应天府进行偷袭，在敌军没有防备之时进行痛击，要击败敌军就很有希望了。”
朱元璋听后很高兴，然而，该安排谁去引诱陈友谅呢？刘伯温向朱元璋举荐了康茂才。
康茂才是陈友谅的故交，当时是朱元璋的心腹。朱元璋表示赞同，便叫来康茂才，说道：“陈友谅此次来袭，我需诱其上当，只有你能帮助我。请你先给陈友谅写封信，佯装投降，应允做其内应；然后再送一点假情报给他，让他兵分三路进攻应天，以分散其兵力。”
于是，康茂才让自己家的一个曾侍奉过陈友谅的老仆前去送信。陈友谅看完老仆送来的信后很欢喜，丝毫没有起疑心。
朱元璋从抓获的陈友谅的逃兵那里获得情报，将他们进攻的路线弄清楚后，便命徐达、常遇春等大将分几路在江边几个重要关隘埋好了伏兵。朱元璋亲率大军镇守卢龙山（今南京狮子山），安排兵士备好红黄两面旗帜并定好了信号：高举红旗是告知敌军已到，高举黄旗则是命令伏兵击敌。一切准备就绪，就等陈友谅进入埋伏圈。
送信的老仆一离开，陈友谅就亲率水军向江东桥驶去。但是来到约定地点后，陈友谅依约定方法，接连喊了几声康茂才都无人应答。这时陈友谅才意识到自己中了圈套，便慌忙下令船队撤退。
朱元璋见陈军已进入埋伏圈，趁其刚上岸尚未来得及喘息的时候，立刻打出信号旗，令埋伏的军队从水陆两方面夹击陈军。陈军顷刻间便溃不成军，兵卒们都抢着上船逃跑，被杀者和落水而死者不计其数，有两万多兵士被俘虏。
被部将保护的陈友谅则撇下百余艘巨舰，抢到一只小船逃走了。朱元璋率军乘胜追击，先将安庆、太平夺回，接着又攻取了信州、袁州（今江西宜春）等地。
应天战败后，陈友谅军队内部矛盾加剧，朱元璋趁其内部不稳之际，继续向西进发，只用了一年时间，便占领了蕲州、黄州和兴国等地，他对洪都（今属江西南昌）守军进行了收编，又攻下瑞州、吉安、临江，军力大增，控制区迅猛扩展，声势日益浩大。
战败后的陈友谅心有不甘，为了报仇雪恨，他一直在积蓄力量。3年后，陈友谅建造了很多战船，把他的家人和文武大臣皆搬至船上，亲率60万大军直取洪都，准备拼死一搏。朱元璋闻讯，忙率领20万大军解救洪都，陈友谅只好暂时撤至鄱阳湖。朱元璋封锁了鄱阳湖的出口，围堵敌军，准备和陈友谅在湖中一决生死。
陈友谅的水军拥有众多高大的战船，排起来的阵形竟然长达十几里，很有气势；而朱元璋的水军则全是些小船，尽管军队作战勇猛，将不少敌军杀伤，可自身也死伤不少，与敌军一连对峙了3天，也未获胜。
因此，朱元璋决定采取火攻。他调来7只小渔船，上面载满了芦苇火药，由敢死队员驾驶着驶向陈军的大船并占据上风位置，待东北风刚一刮起，就点燃小船冲向陈军。
陈军的大船转动不便，来不及躲闪，被火船引燃，随后火势便蔓延开来，陈军几百艘战舰瞬间化做了灰烬。陈友谅的部下有的被烧死，有的成了俘虏。陈友谅带着一些残兵向鄱阳湖口冒死突围，不料湖口早已被朱元璋封堵。就在陈友谅突围之时，朱军乱箭齐放，将其射死。最终陈军惨败，朱元璋获得了全面胜利。
鄱阳湖水战长达37天，其历时之长，规模之大，投入兵力、舰船之多，战斗之激烈，皆是前所未有的。
面对陈军高大的舰船、精良的装备，朱元璋准确地分析出敌军的薄弱环节，找出其失误所在，化解不利条件，在刚进入湖口的时候就在武阳水与鄱阳湖、长江与鄱阳湖各个隘口设下多重兵力阻截，限制其展开兵力，防止其发挥兵多舰大的优势，从战略上包围陈友谅的军队，所以一开始就拥有了战略主动权。之后，他又将大部分战船和兵力集中起来依次攻打陈军，同时又巧妙地借助风向、水流等自然条件，迅速占据有利的攻击阵位，充分利用火器的功用，适时采取火攻，最终以少胜多、以小击大、以弱胜强，使这一场战役成为我国水战海战史上以弱胜强的经典战例。此战的胜利，奠定了朱元璋平定江南的基础，并为以后北上灭元、统一全国创造了有利的条件。