苻坚统一北方后过于自大，忘记了王猛“切勿进攻晋朝”的遗言，一意孤行，举兵南征。结果，他引以为傲的百万雄兵在淝水之战中溃不成军，被八万晋军打得落荒而逃。此战之后，前秦实力大减，各族将领纷纷自立，刚刚统一的北方再次分裂。
■不听劝阻，执意南征
苻坚勤理国政，任用贤能，用20年的时间使前秦强盛了起来，基本上统一了北方。然而，东晋此时尚偏安南方。前秦建元十五年（379年），攻下东晋的襄阳后，苻坚觉得消灭东晋、统一天下的时机已经成熟，于是决定出兵攻打东晋。王猛去世前曾告诫苻坚不要攻打东晋，专心对付鲜卑人和羌人，因为这两个民族才是前秦最主要的敌人。可苻坚早已被胜利冲昏了头脑，哪里还记得王猛的嘱咐。他不但一意孤行，还十分信任鲜卑贵族慕容垂和羌族贵族姚苌，这无异于自掘坟墓。
前秦建元十八年（382年）秋，苻坚召开御前会议。他说：“我治国已经近30年了。如今别的地方都已归服，只余下偏居东南的晋。现在我想发动国内的百万精兵，亲自讨伐晋，你们觉得如何？”大臣权舆说：“晋的国势虽然弱小，可晋君较为清明，并无什么过失；再说晋现在有谢安、桓冲等人辅政，他们上下同心，又有长江天险的护持，恐怕如今还不是灭晋的时候。”苻坚的脸顿时沉了下来，大声说道：“长江算什么，我们有百万雄师，每人把自己的马鞭扔到江中，都能将江水截断，晋还有什么险可凭！”群臣争论了很久都没有达成共识，苻坚十分不满，怀怒离座。大臣们走后，苻坚对他的弟弟苻融说：“古往今来，决定国家大事的不过是一两个人，这件事还是你我来决策吧。”苻融诚恳地说：“陛下，我们争战多年，兵马疲惫，士兵们都不愿出去征战了。刚才劝陛下不要出兵的都是国家的忠臣，还望您能采纳他们的意见。”
苻坚没有料到自己的弟弟也不与他同心，沉下脸说：“你也说这种丧气话，我该同谁来定天下大事啊！我秦国有百万之师，粮草充足如山，我就不信攻克不了弱小的晋国！”苻融垂泪而谏：“如今真的不是伐晋的时候啊，都城中有这么多的异族势力，他们都是不安因素。您远征在外之时，他们若乘机作乱，后果将不堪设想！您难道忘了王猛的遗言吗？”苻坚还是没有听进去。前燕降将幕容垂和羌族首领姚苌心怀鬼胎，想趁苻坚南征之机重兴故国。二人竭力劝说苻坚伐晋，声言“独断”正是霸君的作为。最终，苻坚于前秦建元十九年（383年）下诏出兵伐晋。
■轻敌遭败，草木皆兵
建元十九年（383年）夏，苻坚下了征兵令，命百姓中每十名男子出一人为兵，富贵之家二十岁以下的健壮子孙则都编进了御林军，如此一来，一共集合了90万兵力，号称百万，相继进攻江南。军队蜿蜒千里，颇为壮观。苻坚想凭着具有压倒性优势的兵力，一举拿下东晋。大军压境，东晋朝廷十分惊恐，而丞相谢安则神态如常，力主抗战。他用心经营，做了全面的准备，令弟弟谢石为征讨大都督，侄子谢玄为先锋，带领极具战斗力的精兵“北府兵”顺着淮河西上，对阵秦军主力。
东晋军队虽仅八万人，可军势甚盛，毫不逊于前秦大军。大将胡彬带着5000水军支援战略要地寿阳（今安徽寿县），桓冲则带军据于荆州，防止秦军渡江。同年冬，谢玄令猛将刘牢之领5000精兵突袭洛涧（今安徽怀远西南洛水入淮处），前秦将领梁成率五万部卒迎战晋军，淝水之战正式开始。刘牢之分兵绕至秦军之后，切断其归路；自己则领兵强行渡过洛水，攻击秦军。秦军不敌，只一会儿工夫就散乱不成阵形，统帅梁成和弟弟梁云战死，秦军争渡淮河保命，此战中共损失一万多人。洛涧之战的胜利使晋军士气大振。谢石带军水陆并进，一直到达淝水（今安徽寿县南瓦埠湖一带）东岸，在八公山山脚下安营扎寨，同驻扎在对岸的秦军相持。苻坚登上寿阳城楼，放眼一望，只见对岸的晋军队列严整，杀气甚盛。连八公山上的草木也被他看成晋兵，此情此景让他心中慌乱。“草木皆兵”这一典故即由此而来。
■风声鹤唳，前秦危亡
秦军紧靠淝水西岸列阵，晋军过河不能立足，两军只能隔河相峙。谢玄让使者过去见苻融，使用激将法，问他敢不敢先让秦军后退，待晋军过河后再决一死战。秦军将领都不同意，可苻坚决定将计就计。他认为先让自己的军队后退，等晋军渡河渡到一半时再用骑兵冲击，就能取胜。苻融十分赞成，于是同意后撤。可秦军士气不高，一后撤就乱了阵脚。于是，谢玄带着八万东晋骑兵抢渡淝水，进击秦军，苻融战死。
秦军乱了方寸，前锋的退败让后面的军队也惊慌失措，四处逃亡。秦国败兵不敢稍加停留，听到风声及鹤叫也恐慌不已，以为是晋军追上来了。晋军乘胜追杀，秦军人马乱踩，死伤无数，尸横遍野，血流成河。苻坚在战乱中中箭受伤，单骑奔回洛阳。
东晋取得了淝水之战的胜利。这场战争是十六国时期规模最大的一次战争，苻坚一统天下的梦想在这次失败中彻底破灭，刚刚统一的北方再次分裂，鲜卑族的慕容垂和羌族的姚苌集结了势力，各自重建了政权。淝水之战两年后，苻坚被姚苌杀害，前秦政权随之灭亡。