其实，李善长生于1314年，时年五十七岁，对一位丞相来说，说他“其年既高”，实在勉强。不过，让他“从善乐游，功名两全”，回家养老赋闲的意思倒是说得十分明白。这个时候，杨宪已经伏诛，朱元璋提升中书省右丞汪广洋为中书省右丞相，提升中书省参政胡惟庸为中书省右丞，这实际上也等于同时免除了徐达的中书省右丞相之虚职。之所以这样安排，是因为汪广洋资历浅，才干平庸；胡惟庸虽有才略，但他的官位较低，朱元璋让这二人把持中书省，实际上是采用小砣压大枰的办法，目的是为了便于自己掌控中书省。
中书省经历这场变故，对诚意伯刘基而言并非是件好事。因为刚上台的这两位新贵都对他心怀怨恨，尤其是胡惟庸，此人可以视为李善长势力的延续。刘基见形势与己不利，再次请求告老还乡，得到朱元璋的批准。洪武四年（1371年）二月，刘基回到浙江青田老家。
为避免被皇帝猜忌和被政敌揪住小辫，刘基下车伊始，就派长子刘琏赴京上表谢恩，八月，四川的明氏政权（夏国）被平定，他再度派刘琏为皇帝呈上一篇《平西蜀颂》。至于平日，更是深居简出，在家读书呤诗，饮酒下棋，谢绝同官府的一切来往，对人绝口不提自己的功劳和朝廷的情况。如此处心积虑，目的就是为了安享晚年。
同是这年八月，朱元璋派人给刘基送去一封亲笔书信：
皇帝手书，付于诚意伯刘基：
故元以宽而失，朕收平中国，非猛不可。然歹人恶严法，喜宽容，谤骂国家，煽惑非非，莫能治。即今天象叠见，且天乌已及八载，日中黑子又见三年，今秋天鸣震动，日中黑子或二，或三，或一，日日有之，更不知灾祸自何年月日至。卿山中或有深知历日者，知休咎者，与之共论封来。
洪武四年八月十三日午时书
曾有学者认为这是朱元璋有意给刘基设置陷阱，意在令其作答之后，于中挑出漏洞，从而给他定罪。笔者认为，此乃无稽之谈。因为在朱元璋的印象中，刘基精于术数，能观天象，他“居则每匡治道，动则仰观乾象。察列宿之经纬，验日月之休光，发踪指示，三军无往不克”。此间遇到困惑的朱元璋诚心向刘基求教，是最自然不过之事。
刘基当然也不敢辜负皇帝，接到书信后，即对上述天象备悉作答，并附上自己的意见，大意是：“霜雪之后，中有阳春。今国威已立，宜少济以宽”。从以后的事实来看，朱元璋对刘基此次的表现还算满意。
洪武六年（1373年）正月，中书省右丞相汪广洋因“无所建白”，被贬至广东行省任参政，胡惟庸以右丞身份主持中书省工作，同年七月，他再被任命为中书省右丞相。远在浙江的刘基闻讯后，感到十分忧虑，全然不顾一贯坚持的蹈迹晦形策略，对人预言：国家和百姓将难逃一场灾难。最后，刘基还不无忧愤地说：“使我言不验，苍生之福也！”这话辗转传到胡惟庸耳中，可谓旧恨重添新仇，于是，决定伺机报复。
机会终于来了，原来，在青田县南部与瑞安县交界之处有个形势险要的地方叫淡洋，向为强盗恶人藏匿之所。洪武三年（1370年），刘基之子刘琏曾奏请皇帝在此地设立巡检司，用以盘查过往行人。洪武六年（1373年），青田发生了由周党山领导的山民暴动，地方官担心获罪，隐瞒不报，刘基就派刘琏去京师报告。由于刘琏自幼与太子朱标等人一起长大，与朱元璋的关系特别亲近，他便越过胡惟庸，直接向皇帝作了汇报。
胡惟庸得知此事，对刘基更加不满，他教唆地方官呈上奏折，说刘氏看好淡洋这个地方有王气，故借设立巡检司为名，驱逐百姓，以便将来拿它作为墓地。这一招真绝，大凡统治者对此类事情都极其敏感，宁可信其有，不可信其无，何况刘基本来就是一位精通占星术数的先生，更是不得不防。因此，朱元璋接到这个奏章之后，立即下诏给刘基降罪，剥夺其俸禄。
这场飞来横祸警醒了刘基，他敏感地意识到，若再如此消极被动地逃避下去，则很可能等来的将是灭族大祸！思来想去，他主动带着刘琏赶往京城，不申辩，不解释，只说让皇上生气，自己罪该万死。然后，主动表示愿意留在京城当寓公，意在将自己置于皇帝的监视之下。
对于刘基的这些举动，朱元璋相当满意，洪武八年（1375年），他在给刘基的《赐归老青田诏书》中如是评价道：“朕闻古人有云：君子绝交，恶言不出；忠臣去国，不洁其名。当初，加尔以显爵，以垂名万年；随敕归老桑梓，以尽天年。何期祸生有隙，是使不安。念劳绩宿著，国有议勋之条，故不夺其名而夺其禄，此国之大体也。然若愚蠢之徒，必不克己，将谓己是而国非。卿善为忠者，所以不辩而趋朝。一则释他人之余论，况亲君之心甚切。引可谓不洁其名者欤？恶言不出者欤！”双方相知如此之甚，君臣可谓都是老谋深算之人！
刘基侥幸逃过一场灭门之祸，可是，他留居京城之后，日子过得并不舒心。《诚意伯文集》收录了刘基写的这样一首诗：“饱食无一事，一日复一夕。倚门望园穹，白云在空碧。来鸿与去燕，岁晚各有适。英英黄金花，粲粲好颜色。采撷贵及时，霜露已盈积。掩门还独坐，浩然怀往昔。惟有故乡梦，可以慰岑寂。”诗中明显流露出一位老年游子对故乡的强烈思念，同时也折射出现实生活带给他的那种难言的郁闷。此时，刘基已经六十三岁，身体已现老态，经过这场变故，他忧愤成疾，一病不起。
洪武八年（1375年）正月，朱元璋让丞相胡惟庸派太医前去为刘基诊治。吃了这位太医开的药，刘基感觉“有物积腹如拳石”，病情反而加重，三月，朱元璋派人护送他回到老家养病。
回到青田后，这位在民间颇有声望的智者，自知不久于人世，便对家人交待了如下几件事情：其一，嘱咐家人将其尸骨火化，不要埋葬，其目的显然是为了解除皇帝的疑忌，保全自己全家；其二，将自己收藏的《观象》、《玩占》等占星术数类书籍交给长子刘琏，并嘱咐在自己死后尽快交给皇上，万勿泄露；其三，又将写给皇帝的遗表交给次子刘璟，嘱咐说：“为政宽猛如循环。当今之务，在修德省刑，祈天永命。诸形胜要害之地，宜与京师声势联络。我欲为表上之，惟庸在，无益也。惟庸败后，上必思我。有所问，以此密奏之。”四月十六日，刘基在浙江青田溘然长逝，享年六十五岁。
刘基死后，朱元璋从前来报丧的刘琏那里听到这位老臣临终时所言的一些细节，不禁为其至死不渝的忠诚而动容。为安慰刘基的在天之灵，他建议刘琏留在京城做官，刘琏则请求为父亲守孝三年，皇帝允许了。洪武十年（1377年）七月，朱元璋任命刘琏为考功监丞，不久擢为监察御史，次年四月再升任为江西参政。洪武十二年（1379年）六月，刘琏“为惟庸党所胁，堕井死”，年仅三十二岁。
洪武十三年（1380年）正月，胡惟庸案发被杀。朱元璋见刘基生前的许多谏言都一一应验，愈发怀念这位忠臣。他多次召见刘基的次子刘璟，称刘基是因为胡惟庸结党，“吃他下了蛊”而死的。朱元璋的话算是给刘基的死最终定了性，然而，无论当时还是后世，多有人怀疑胡惟庸唆使太医给刘基下毒乃是受了皇帝的暗示。这两种情况固然皆有其可能性，但是，或许还有另外一种情况，即太医根本就没有刻意给刘基下毒，而是其病理自然变化所致。上述三种情况分别都有存在的可能性，后人谈史，不能人云亦云，妄加断论。
§§§第二节 “胡惟庸党案”与废相举措
淮西新贵人物胡惟庸在铲除刘基之后，其权势更加膨胀，他在中书省恣意专权，拉帮结派，使得相权日益独立，以致于对皇权构成严重威胁。
洪武初年，朱元璋先是处死了杨宪，罢黜了李善长，不久，又将汪广洋贬谪到广东，此后，胡惟庸便以中书右丞和中书右丞相的身份，独专省事长达数年之久。此间，胡惟庸作主将自己的侄女嫁给了李善长的侄子李佑，与李家结成姻亲关系。另外，他还试图拉拢徐达，遭到冷遇后，又收试图收买徐达家的看门人仆人福寿，请他收集徐达的不法罪证或干脆寻机将其谋杀。福寿表面答应，暗中却报告了主人，徐达严加防备，静观其变。
洪武九年（1376年）六月，明廷撤销行中书省之后，各地省级政权的军政、财政、司法等大权，统统都汇集到中书省，丞相的权力更大，使得胡惟庸愈发忘乎所以，骄横跋扈。他“潜用黄罗帐幔，饰以金龙凤文”，并且，“独相数岁，生杀黜陟，或不奏径行。内外诸司上封事，必先取阅，害己者，辄匿不以闻”。 当时，平凉侯费聚奉命抚治苏州军民，因耽溺酒色受到朱元璋的斥责，吉安侯陆仲亨自陕西回京师，因擅用驿马而被皇帝处罚。胡惟庸见有机可乘，即“阴以权利胁诱二人，二人素戆勇，又见惟庸当朝用事，强盛，因与往来，久之益密。”
侯爵勋臣尚且如此，更逞论他人！一时间，各地欲求升迁的官吏以及在京失宠的文武大臣，也都争相投靠胡惟庸。至此，中书省俨然成了胡丞相的独立王国。
胡惟庸的如焰之势引起了一些忠君爱国人士的担忧，他们纷纷上书提醒皇帝加以防范或早做决断。这些人士中间，除刘基之外，还有韩宜可和徐达等人。据《明史·韩宜可传》记载，韩宜可任职监察御史期间，曾大胆上书弹劾胡惟庸及其同党——御史大夫陈宁和御史中丞涂节，称他们“险恶似忠，奸佞似直，恃功怙宠，内怀反侧，擢置台端，擅作威福，乞斩其首以谢天下！”朱元璋览书大怒，骂道：“快口御史，敢排陷大臣耶！”命将其投入锦衣卫监狱。至于徐达，他对胡惟庸是“深嫉其奸邪，尝从容言于上”。当然，朱元璋不会以对待小御史韩宜可的方式去对待大将军徐达，但是这事也不再有下文。
令人匪夷所思的是，面对这些忠心耿耿的直谏，朱元璋不仅置之罔闻，而且仿佛对胡氏更加信任。洪武九年（1376年）闰九月，他下诏确定中书省左、右丞相的官秩为正一品，并取消平章政事和参知政事这两个官职。洪武十年（1377年）九月，他再度下诏升任胡惟庸为中书省左丞相，又将时任御史大夫的汪广洋调回中书省任右丞相，帮胡惟庸作副手。如此一来，胡惟庸的官位达到了他政治生涯的颠峰。。
所谓盛极则衰，物极必反。当忠臣们忌恨胡惟庸如日中天的势焰并暗自恼怨皇帝的昏聩时，殊不知，这一切都是出自朱元璋的有意安排。皇帝事先悄无声息地撒下一张大网，他于网中再给胡丞相布置一个独立的舞台，使之尽情表演，以便尽可能多地将那些惯于见风使舵的文武官员吸引到这张网中，一旦时机成熟，便拉绳起网。如此操作，诸如废除丞相制度、铲除不法勋臣等目的，均可一蹴而就。十分可悲的是，在朱元璋那宏大得让人不着边际的格局之下，自以为得计的胡惟庸只不过是一颗能够帮助朱元璋走活全盘的棋子而已！
老谋深算的朱元璋从容布网，耐心等待。眼见胡惟庸在丞相位置上丑态毕现，而那些头上长角、身上长刺的文武官员也都尽入其网时，才从容起网，逐个捞捕。
洪武十一年（1378年）三月，朱元璋在诏令礼部大臣制定奏章格式时指出：“人君深居独处，能明见万里者，良由兼听广览，以达民情。胡元之世，政专中书，凡事必先关报，然后奏闻，其君又多昏蔽，是致民情不通，寻至大乱，深可为戒。”按照皇帝的要求，礼部重新制定的奏事有一个最大特点，即“奏事毋关白中书省”，也就是说，今后各部诸司以及天下奏章不再以副本形式通报中书省，从而切断了中书省与六部诸司及地方官员之间的联系。这是朱元璋准备对胡惟庸一党采取行动而释放出的首个信号。
当年五月，北元皇帝爱猷识理达腊亡故，朱元璋对翰林院所撰祭文皆不满意，便出榜悬构。这时，有位名叫钱苏的儒生撰写了一篇祭文，内有“朕之得，复我中国之故有；汝之失，弃其沙漠之本无”之句，令朱元璋拍案叫绝。召见之后，方知这位钱才子早年因得罪了胡惟庸，从而被打发到连实习监生都不愿呆的后湖架阁库检校簿书。朱元璋当场对他说，这是丞相对你不满意啊，那我直接给你安排一个职位吧！钱苏表示想退休回家养病，朱元璋表示同意，说这样也好，你一路也可为朕做些事情：沿途经过各府、州、县时，你可直入大堂，南向而坐，向当地官员传朕旨意：“皇帝敕尔，善辟田里。养老恤孤，无忌军旅。简在帝心，钦哉勿替。”也就是让钱苏顺便做一次钦差，代表皇帝慰问沿途的地方官员。这桩美差着实让钱苏风光一把，然而，对于曾经打压钱苏的胡惟庸而言，皇帝此举则意味深长，甚至不啻于当头棒喝。这是朱元璋所释放出的又一个信号。
时间进入洪武十二年（1379年），有种种迹象暗示，朱元璋即将对胡惟庸采取重大行动。六月，他将江夏侯周德兴、宜春侯黄彬、吉安侯陆仲亨三人，从集中练兵的临清调回到京师。其中，陆仲亨与胡惟庸关系密切，此举有就近控制之意。七月，他将在陕西督理西北边疆军事的亲外甥曹国公李文忠调回京师，令其提督大都督府事，用以加强对军队的掌控。
八月，朱元璋又颁布了一项旨在拉扰和收买广大官员的法令，规定：“自今内外官致仕还乡者，复其家终身，无所与其居乡里，惟于宗族序尊卑如家人礼，于其外祖及妻家亦序尊卑。若筵宴则设别席，不许坐于无官者之下，如与同致仕官会，则序爵，爵同序齿，其与异姓无官者相见，不必答礼，庶民则以官礼谒见，敢有凌侮者，论如律！”这种一日为官终身尊贵的优待古今少见，可以想像这道法令颁布之后，各级官员对皇帝的拥护程度。
针对皇帝的这一系列举措，稍有智识之士皆应知晓其所指，精明如胡惟庸，自然更是心知肚明。凑巧此间又发生了一件事情，使得胡惟庸与皇帝的冲突趋于公开化。
原来，胡惟庸有个儿子是个恶少，某日他于街市策马飞奔，结果撞上一辆马车，伤重而死。胡惟庸大怒，不由分说将车夫抓住杖死。朱元璋闻讯，让其偿命。胡惟庸竟然提出用金帛来赔偿车夫家人，遭到皇帝拒绝。由于杖杀车夫一案，罪止涉及胡惟庸一人，而朱元璋的战略目标是将胡惟庸党徒一网打尽。出于这种政治考量，他暂且放了胡惟庸一马，没再深究。
不过，胡惟庸却通过这件事情从朱元璋那里确凿地嗅到了杀机。为了不使自己坐以待毙，他赶紧找到御史大夫陈宁、御史中丞涂节以及自己侄女的公爹——太仆寺丞李存义（李善长之弟）等同党，匆匆策划谋反，并“阴告四方及武臣之从己者”， 诸如陆仲亨、费聚等人，“令其在外收辑军马以俟”，准备侍机起事。