朱元璋罢丞相，是对一千多年中央政治制度的一次重大变革。不设丞相，六部直接将全国政务奏请皇帝裁决，实际上是皇帝兼行相权。据说朱元璋每天要看两百多份奏章，处理四百多件政事，相当辛苦。由此，专制主义皇权到了朱元璋手中得到了空前的加强，他也成为历史上最有权势的皇帝之一。
封建专制的加强最终还要依赖制度变更。在地方，洪武九年（1376年），朱元璋下令撤销行中书省，设立承宣布政使司、提刑按察使司和都指挥使司，分掌行政、司法、军事权力，三者地位平等，互不统摄，向中央负责。
在中央机构的改革中，洪武十三年（1380年），他借口胡惟庸谋反，说：“自古三公论道，六卿分职，并不曾设立丞相。秦置丞相，不旋踵而亡。隋、唐、宋因之，虽有贤相，然其间多有小人专权乱政。”这就是朱元璋废除丞相的理由。丞相的职责“掌丞天子，助理万机”，丞相帮助皇帝治理天下，并负责处理日常事务。到了明代则废除了丞相一职，朱元璋的目的在于裁撤掌管天下行政中枢的中书省，实现了大权独揽。不设丞相，提高六部职权，分掌天下事务，直接向皇帝汇报。同时将掌管全国军事的大都督府一分为五，改为前、后、左、右、中五军都督府，分领所属都司卫所部队，但无权调兵。
从此，皇帝既是国家象征，又是政府首脑，拥有最高的、绝对的不可分割的权力，把封建独裁制度推上了最高峰。朱元璋之所以能够推行一些极端主义的政策，皇帝权力的绝对化是个保障。
为巩固明朝统治，朱元璋采取了一系列措施，除大力惩治贪官污吏外，还设置了锦衣卫，专门负责“察听在京大小衙门官吏不公不法及风闻之事，无不奏闻”。锦衣卫设立于1382年，与此后的东厂、西厂一起构成了中国历史上著名的明朝特务统治机构。明朝时，特务统治的恐怖气氛始终笼罩着中原大地，在锦衣卫和东厂、西厂残酷的刑罚下惨死的仁人志士更是不可胜数。朝廷起初设立这些特务机构是为了强化专政集权，没想到它们最后却成了乱政毁国的根源。
明朝初期的军队编制较简单，卫和所是基本单位，每卫约统辖正规军士5000人，卫的下面设立所，又分成千户所、百户所，京城的禁卫军统辖48处卫所。朱元璋于1382年决定对禁卫军进行改编，设立亲军卫12个，锦衣卫在其中最为重要。
朱元璋在抗元时期所设的检校组织是锦衣卫的前身，专门负责打探和启奏京内所有衙门官员违反公正、法纪的事以及通过传闻得知的事。明朝初期，朱元璋设立拱卫司作为皇帝侍从军事机构，统率校尉，从属于都督府。后来经过拱卫指挥使司、亲军都尉府、仪鸾司的演变，朱元璋于1382年春天废掉了仪鸾司，改设锦衣卫，其下设有指挥使、指挥同知、指挥佥事、南北镇抚司及千户等五个职位。
为了强化中央集权统治，朱元璋令锦衣卫专门执掌刑狱，授予其巡察缉拿的权力。锦衣卫不必经过司法部门即可进行探查、缉捕和审讯活动，是直接隶属于皇帝的亲军卫中的一个。
指挥使为锦衣卫的首领，担当此任的通常是皇帝的心腹武将，较少由太监担当。“掌直驾侍卫、巡查缉捕”是指挥使的职责。锦衣卫还负责掌管侍卫、排列仪仗及跟随皇帝出外巡视，同传统意义上的禁卫军大致上没有区别，其中较为有名的是大汉将军。事实上，他们仅负责侍立于殿中传达皇帝的命令，同时担任保护守卫工作，通常皆高大魁梧、底气充足、声音浑厚，表面上看去威武而严肃，可起到一定的威慑效果。
在南北镇抚司下面设有五个卫所，卫所的统领官叫做千户、百户、总旗、小旗，一般军士则叫做校尉、力士。在履行缉捕盗贼、奸佞的职责时，校尉和力士被称做“缇骑”。缇骑的数量少则一千人，多则有六万人。锦衣卫官校大多由民间挑选出的强壮勇武、没有前科的百姓来充当，然后依靠才干与资历一级一级上升。
另外，锦衣卫的官职还准许世代承袭。锦衣卫最突出的特征便是穿的官服为金黄色，寓意其权力很高，这种官服叫做“飞鱼服”。同时，锦衣卫还有一个特点，那就是随身佩带着绣春刀。
作为明朝建立初期的皇帝，朱元璋和朱棣因其卑微的出身，对皇权的维护欲望超过了任何朝代的帝王，因此造成锦衣卫“巡察缉拿”的职能被无限扩大。
最初，锦衣卫的职责仅限于探察各类情报、监视各级官吏、办理皇帝交办的案件。后来，为了巩固自己的皇权，也为了替后世子孙消除隐患，朱元璋毫无顾忌地杀害有功之臣，而刑部、大理寺、都察院等传统的司法机构却让他感觉调配起来多有不便。
因此，朱元璋提升了锦衣卫的保卫作用。南北镇抚司是承担侦缉刑事任务的锦衣卫机构，而其中的北镇抚司可以传递并处理皇帝亲自审定的案件，可以设置自己的监狱，也就是诏狱，无需经过普通司法机构便能自行缉捕、审讯和处理决断。
根据明史所载，当时锦衣卫共有18种经常使用的刑具，如夹棍、脑箍、拦马棍、钉指等，杖刑也是其中的一项刑罚。锦衣卫在施行杖刑时很有讲究，若是行刑官仅说“打着问”，是说让执刑者不要打得过重；若说“好生打着问”，就是让执刑者打重一些；若说“好生着实打着问”，就是让执刑者不管犯人死活重重地打。通常情况下，凡是被逮进去的罪犯，皆得把18种刑具尝一遍。
“执掌廷杖”是锦衣卫的另一项重要职能。从明朝开始施行的廷杖制度是一项为了彰显皇帝威势和权力的残酷刑罚，是指皇帝用杖刑责罚犯颜上谏或者有过错的大臣。被下令施行廷杖的官吏会被脱去官服，然后反绑起双手押到午门受刑。不论是对受刑者的肉体还是心灵来说，廷杖之刑皆是很严重的伤害，而明朝皇帝却沉浸其中，自得其乐。
朱元璋在位期间，被廷杖致死的官员包括公侯朱文正、朱亮祖及工部尚书薛祥等。
职能被无限扩大以后，锦衣卫便遵照皇帝之意暗地里探查军情民心，所有不利于皇帝的言论都逃脱不了他们的眼睛和耳朵。那些对他们表露出不满情绪的人都有可能会被抓走，凡是被他们抓走的人都很难活着回来。
某些指挥使野心勃勃、心狠手辣，他们常常通过职务的便利挑起事端，一方面排除、压制异己；一方面也能当做个人晋升的资本。例如，成祖时的纪纲、英宗时的逯杲、武宗时的钱宁等人在各自执掌权力期间，不论是宰相藩王还是普通民众皆受到他们的监视，稍违背他们的命令便会家破人亡。
当时，整个国家都被一片恐怖的气氛笼罩着。北镇抚司大牢可谓臭名远扬，里面关押了众多清白无罪之人。死在锦衣卫残酷刑罚下的正义人士更是不可胜数。
更恐怖的是，这种肆意缉捕的现象几乎贯穿于明朝的始终，并破坏了皇帝和官僚机构间的关系，导致皇帝和文武百官、百姓、军队无法同心同德。因此有人认为，明朝并非亡于流寇，而是亡于厂卫。除了享有很多特殊权力以外，锦衣卫还占有大量田地。直至宪宗执政时期，锦衣卫的权势才渐渐减弱。
历史上虽然也有像袁彬、牟斌那样耿直公正的指挥使，可是纵览明朝的锦衣卫，其主要职能仍是为明朝的极端专制统治做帮凶。由于锦衣卫的存在，明朝皇帝在压迫和限制士大夫阶层及普通百姓时就更加随心所欲了。然而，这样做的代价却是在很大程度上降低了社会活力，这也是拥有两百余年历史的明朝在政治和经济制度上不但没有什么进步，反而有所倒退的根本所在。
朱元璋的改官制，设立锦衣卫，都是为了更好地实现君主集权专制，让一切权力都归于皇帝之手。这一次的改革，进一步加强了秦、汉以来的专制主义中央集权。