早在洪武四年（1371年）正月初二，朱元璋就下诏罢免了李善长的丞相之职，令其致仕回乡。为了安慰这位开国丞相，朱元璋同时宣布将临濠地区的一大片土地赐予他，并为其配置佃户一千五百家，守冢户一百五十家和仪仗户七十二家。公道地说，这种退休待遇其实相当不错，但是，李善长是个权力欲望极强的人，在他看来，自己的权势和尊荣刚刚开始便草草结束，心中实在不甘。
洪武五年（1372年）二月，朱元璋回乡扫墓。李善长抓住这个机会，鞍前马后，恭敬侍候，令朱元璋颇为动情，回想起这位老伙计当年的勤恳忠诚，心里还有几分愧疚。当时正值兴建凤阳中都，数万工匠民夫云集工地，加之大批江南富户被陆续迁发到此地，千头万绪，局面十分混乱。朱元璋灵机一动，索性委派李善长督建中都，如此，既能利用他为工程出力，又可安慰这位老伙计的情绪，一举两得。李善长也未辜负皇帝的恩遇，连续数年，督工甚力，把整个工程调度得井井有条，令朱元璋颇感满意，多次遣使前往凤阳对其慰劳。
洪武七年（1374年）七月，朱元璋提拔李善长之弟李存义担任太仆寺丞，总理全国马政。洪武九年（1376年）七月，朱元璋又将自己的长女临安公主下嫁给李善长的长子李祺，此乃朱元璋第一次招驸马，其排场可想而知。皇帝此举，使李善长的心里升起了被亲家翁重新起用的希望。可是，万没料到临安公主嫁到李家才刚刚一月，御史大夫汪广洋、陈宁等人就上表弹劾“善长狎宠自恣，陛下病不视朝几及旬，不问候。驸马都尉祺六日不朝，宣至殿前，又不引罪，大不敬”。朱元璋览表，心中十分不爽，下令将李善长的岁禄削减一千八百石。这个处罚决定好比被人兜头泼了一盆冷水，李善长自此“意忽忽不自得”。
从此以后，朱元璋也不再特别重用这位老臣：洪武七年（1374年）十月，曾派李善长到北平查点树木；洪武八年（1375年）春天又打发他到陕西汉中清理茶政……总之，都是些临时性的跑腿差事，弄得李善长牢骚满腹，愈发心灰意冷。
洪武十年（1377年）五月，朱元璋曾诏令李善长和李文忠“总中书省、大都督府、御史台，议军国大事”。这个差事听起来大得吓人，实际上，中书省、大都督府、御史台，这些衙门都有各自的主官，李文忠其时还以大都督府左都督的身份一手把持着大都督府，而无职无权的李善长充其量不过是一位荣誉顾问而已。设身处地，我们不难想像李善长深藏于心的抑郁和怨恨。
洪武十三年（1380年）正月，胡惟庸谋逆案发，满朝文武都知道他们之间非同一般的亲密关系，并且还有很多口供直指李善长参与该谋逆事件。然而，当群臣“请诛善长”时，朱元璋说了一番感人肺腑的话：“朕初起兵时，善长来谒军门曰：‘有天有日矣！’是时，朕年二十七，善长年四十一，所言多合吾意，遂命掌薄书，赞计画，功成爵以上公，以女与其子……此吾初起时腹心股肱，吾不忍罪之！”
其实，纵观朱元璋平生之所为，他可不是那种情义至上的人，之所以暂且先放李善长一马，道理与对待陆仲亨等武将一样，个中涉及到朱元璋处置胡案的计划和层次：所谓牵一发而动全身！李善长虽已下野，但他德高望重，故交党徒众多，尤其是在淮西武臣集团有着深厚的根基和颇高的威望。如若此时给李善长治罪，则“胡惟庸党案”势必将会演变成“李善长党案”，届时，整个淮西勋臣集团将会产生强烈震荡，从而影响政局乃至国体的稳定。朱元璋素来谨慎持重，绝非意气用事之人，断不会去为这等不靠谱之事。
胡案初起之际，李善长相当紧张，简直惶惶不可终日。可是，年复一年，大祸始终没有降临到自己身上，李善长也就渐渐放下心来。洪武十八年（1385年），李善长之弟李存义父子再度被人检举为胡党，朱元璋诏免其死，流放崇明。这事表面看起来是朱元璋顾及李善长的情分，实则是时机尚未成熟，眼下还不宜对李氏家族下手。
洪武二十一年（1388年）四月，征虏大将军蓝玉率领明军在捕鱼儿海（今贝加尔湖）捣毁北元政权的大本营，北元国主脱古思帖木儿仅以数十骑逃脱。同年十月，脱古思帖木儿被也速迭儿缢杀。至此，明朝的宿敌北元政权已是名存实亡，再也无法对中原构成威胁。在这种大背景之下，朱元璋或许已经在考虑动手解决淮西勋臣集团尾大不掉的问题，而恰在此时，李善长又自动将口实授予朱元璋。
洪武二十三年（1390年）初，时年已七十七岁的李善长，不顾年事已高，扩建自家府第，指望为儿孙多置一些产业，为此，他私下向信国公汤和借三百名卫卒，准备作为劳力之用。孰料汤和竟然对这位过气老丞相发飚，当场责问道：“非奉命，太师敢擅发兵邪？”尔后，汤和又在第一时间向皇帝作了密报，朱元璋暗骂这老头儿太不识相。
当年四月，李善长有位名叫丁斌的亲信牵连到“胡党案”，被判流放边疆，他亲自出面找皇帝说情。朱元璋派人一查，原来这个丁斌曾在胡惟庸家做事，其义姐经胡惟庸做媒嫁给了李善长的另一个弟弟李存贤之子李神舍。朱元璋大怒，下令严刑审讯丁斌，丁斌又再度供出当年胡惟庸曾勾结李善长之弟李存义共同谋反之事。
有了丁斌的口供，朱元璋决定起网捕鱼。他下令将李存义父子从流放之地取回京师，严刑拷问。期间，李善长的家奴卢仲谦也站出来指控主人有谋反之事，并且讲得有鼻子有眼。同时，陆仲亨的家奴封帖木也揭发称自家主人曾与韩国公李善长、延安侯唐胜宗、平凉侯费聚、南雄侯赵庸等人，勾结胡惟庸谋反……所有证词的指控都对李善长不利。恰在此时，老天也赶来凑热闹——职掌天文的钦天监向皇帝奏报，说星象有变，须杀大臣应灾。如此一来，李善长注定是在劫难逃！
洪武二十三年（1390年）五月，朱元璋下令将李善长及其弟侄妻女满门共计七十余口斩杀正法。当然，也有诸如《明太祖实录》、《国榷》等史料，称李善长系自杀而死。总之，李善长是因“胡惟庸党案”才非正常死亡的。至于李善长的长子李祺，因为是附马的缘故，被流放到江浦，并在那里了却残生。李祺的两个儿子李芳和李茂——也是朱元璋的亲外孙，朱元璋看在女儿的情分上未将他们坐法，算是给老李家留下两条根苗。
李善长被判定的罪名是——“知逆谋不发举，狐疑观望怀两端，大逆不道”。《明太祖实录》综合诸多案犯的供词，归纳了李善长谋反的前后过程。说胡惟庸谋反之初，曾让李存义前去劝说其兄一同举事。李善长听后大惊，训斥道：“尔言何为者？若尔，九族皆灭！”李存义挨了一通责骂，灰溜溜地往告胡惟庸。胡惟庸清楚李善长素来贪婪、“可以利动”的禀性，过了十几天，又让李存义前去做工作，并许诺：“事若成，当以淮西地封公为王！”在如此巨利的诱惑之下，“善长虽有才能，然本文吏，计深巧，虽佯惊不许，然心颇以为然，又见以淮西之地王己，终不失富贵，且欲居中观望，为子孙后计，乃叹息起曰：‘吾老矣，由尔等所为’”，终于默许了这件谋逆大事。胡惟庸得知李善长的态度转变过来，亲自到李府拜谒，商谈具体事宜，当时“惟庸西面坐，善长东面坐，屏左右，款语良久，人不得闻，但遥见颔首而已”。 得到老首长的支持之后，胡惟庸更有底气，“使指挥林贤下海招倭军，约期来会；又遣元臣封绩致书称臣于元，请兵为外应”，同时，胡惟庸还将御史大夫陈宁、御史中丞涂节以及因受皇帝斥责而心怀怨恨的陆仲亨、费聚等带兵武将也拉了进来。正当胡惟庸为谋反之举积极筹划和准备阶段，发生了“占城使者朝贡不报”之事，胡惟庸入狱，涂节反水，导致谋反之事东窗事发。
以上就是永乐皇帝朱棣所钦定的关于李善长卷入“胡惟庸谋逆事件”的经过。李善长被杀之后，为其鸣冤者不在少数。就在李善长死后的第二年，文人解缙伙同工部郎中王国用，两人出于邀名之目的向朱元璋呈递了一篇替李善长辩护的奏折。因其文辞机辩，现照录如下：
善长与陛下同心，出万死以取天下，勋臣第一，生封公，死封王，男尚公主，亲戚拜官，人臣之分极矣，富贵无复加矣。籍令欲自图不轨未可知，而今谓其欲佐胡惟庸者，则大谬不然。夫人情爱其子，必甚于兄弟之子，安享万全之富贵者，必不侥幸万一之富贵。善长于胡惟庸则犹子耳，于陛下则亲子女也。使善长佐胡惟庸成，不过勋臣第一而已矣，太师、国公、封王而已矣，尚主纳妃而已矣，宁复有加于今日？且善长岂不知天下之不可幸取，取天下之百危？当元之季，欲为此者，必有深仇激变，大不得已，父子之间或至相挟以求脱祸。今善长之子祺备陛下骨肉亲，无纤芥之嫌，何苦而忽为此？若谓天象，大臣当灾，则尤不可，天下闻之，孰不解体？臣亦知善长已死，言之无益，所愿陛下作戒将来耳。
这份貌似雄辩的奏折一经面世，立即博得普天下民众的情感认同，甚至直到今日，绝大多数所谓明史专家和研究者，仍以它为蓝本在文章中替李善长鸣冤辩护。
笔者对上述观点颇不以为然。诚然，若以理性的眼光来看，李善长的确没有必要去参与谋反，奏折对个中道理已分析得十分透彻。但是，从实践经验来看，绝大多数的违法犯罪活动，却往往是不曾通过当事人的理性思维的，比如：片刻的淫欲、细碎的口角，皆可导致人们做出强奸、杀人等犯罪之举，然后遭受牢狱之灾，甚至付出生命的代价，这就是所谓的利令智昏。此类案件，古往今来，多如牛毛，何止一个李善长！
再说了，李善长也并非完全没有谋反的理由。读者想想看，李善长很早就追随朱元璋打天下，论年龄和资历，差不多能算是老大哥。革命成功之际，小弟朱元璋称王称帝，他自己也入相封公，位极人臣，好不得意！开国以后，作为淮西勋臣的老大哥，李善长不过才五十几岁，真正尊崇的生活才刚刚开始，丞相的宝座也刚刚焐热，孰料当了皇帝的小弟就勒令他退休回乡养老！这个打击对“外宽和，内多忮刻”的李善长而言，不啻是一种“敝帚乱抛”式的羞辱！在这种心境之下，其亲弟弟和心腹亲信等人主动找上门来图谋皇帝——其实也是替他雪耻，难道他能在理性考量之后将其告发？换了谁都不会这样做！一句“吾老矣，由尔等所为”，乃是最符合情理的选择。
最后再强调一下，解缙以文人的机锋，择其一端写奏折为李善长诡辩，尔后再托王国用呈递给皇帝。行动之前，二人就曾评估，此乃买名之举，事后他们果然达到目的。可叹后世一些所谓专家学者，读史不透，视野狭隘，著述立传全凭寻章摘句，一味拾人牙慧，人云亦云，误人子弟众矣！
自洪武十三年（1380年）正月始，“胡惟庸党案”前后析连了十四年之久，依据《明史》的记载，此案前后共计诛杀案犯三万余人，公、侯级别的勋臣多达二十二名！其中，吉安侯陆仲亨、平凉侯费聚、南雄侯赵庸、延安侯唐胜宗、河南侯陆聚、宜春侯黄彬、荥阳侯郑遇春等开国大将，在韩国公李善长案发期间被同时处死；另有申国公邓镇（邓愈之子）、淮安侯华中（华云龙之子）、宣德侯金朝兴、营阳侯杨璟、济宁侯顾时、永城侯薛显、靖海侯吴祯、六安侯王志、巩昌侯郭兴、永嘉侯朱亮祖、南安侯俞通源、汝南侯梅思祖、临江侯陈德等，这些公侯死因不一，但皆在死后被追坐“胡党”，革除爵位。此外，陈德之子陈镛、顾时之子顾敬、朱亮祖之子朱昱、大将李伯昇、毛骧等人也是被论坐“胡党”处死。
“胡党”死亡簿上这一连串熠熠闪光的名字，令人十分感慨。虽然笔者并不认同“胡惟庸、李善长谋反案为冤案”的说法，但是，却不得不承认这桩惊天血案源自于朱元璋的有意纵容。换个说法，它是朱元璋利用人性的弱点而提前设置的一个巨大阴谋。看来，“狡兔死，走狗烹；飞鸟尽，良弓藏；敌国破，谋臣亡”，这句老话不仅只是对开国君主功成见弃的谴责，而且还是对创业君臣相互关系的一种趋势性概括。从这个意义来说，朱元璋是无可指责的，因为人性如此。