这些人的话都说得很中肯，武则天很动心，从此采纳众议，对酷吏加以限制，并整肃告密者。她派监察御史严善思对告密者进行审讯。严善思公正直率，秉命追查，竟查出850多个告密者，其所告内容大多出于虚构，因此对这些人予以严惩。这些告密者其实大多是武承嗣、来俊臣等人的徒众党羽，专以告密为能事。罗织之党受到挫折，他们对严善思加以报复，终使他坐罪流放远州。武则天很快察觉他是受冤枉的，又召他回朝廷任浑仪监丞。从此，告密之风一蹶不振，制狱也逐步衰退，刑罚稍宽。不久，来俊臣因犯贪赃罪被贬为同州参军，酷吏王弘义也因罪被流放琼州。王弘义诈称奉敕旨追还，擅自从流放地返回，至汉北，碰到侍御史胡元礼，查出实情，当场将王弘义杖毙。侯思止也因违反禁止人间藏锦的法令被李昭德察觉，武则天令将他杖杀于朝堂。
侯思止刚死，长寿二年（693年），有人密告岭南流人谋反。武则天便派司刑评事万国俊权摄监察御史出使岭南，处理这一案件。万国俊到了广州，就把流人召集起来，假传圣旨，令他们自杀。流人呼号不服，万国俊就把他们通通赶到水边，一下杀了300余人。然后又伪造谋反状词回奏。他还对武则天说：“其他地方的流人中一定也有心怀怨恨而想谋反的人，不如趁早杀掉。”武则天不明就里，还以为他贴心办事，于是授万国俊散朝大夫的官衔，行侍御史之权。又派右翊卫兵曹参军刘光业、司刑评事王德寿等人皆摄监察御史事，到各道审讯流人。刘光业等人见万国俊因为多杀流人而蒙受恩赏，争相仿效。结果刘光业杀了700人，王德寿杀了500人，别的人也各自滥杀了不少，最少的也杀了上百人。武则天很快知道这些人用滥杀来邀功，就另派使者分赴各道，安抚侥幸生存下来的流人家属，说：“朕以前发十道使者，安慰流人，他们却违背朕的心意，擅加杀害，真是太酷暴了！对擅杀流人的酷吏，朕已命把他们用枷锁起来，送到他们陷害流人的地方处斩，以此来慰问亡灵。幸存的流人及其家属可以听任还归本乡。”万国俊等人终因滥杀而获罪，相继被处死或流放边地。
武则天称帝数年后，天下再没有出现大的反叛行动，她的皇位已被天下人所认可和接受。为此，在众臣的谏劝下，她也决心整治刑法。万岁通天元年（696年），她又起用了用法公正的徐有功。徐有功被除名已三年，再次被任命为左台殿中侍御史，这一举动使朝廷内外欢欣鼓舞。徐有功处在武则天称帝的非常时期，因与其镇压反对者宗旨不合，三次被罢免，且都是从死刑的判决下被武则天赦免，武则天还是舍不下他这个正直有德的人。不久，还提升他为司刑少卿、司仆少卿。
神功元年（697年），又意外地发生了一次事变。箕州刺史刘思礼以前曾学相术于人，那人说他当在箕州做刺史，然后将会位至太师（三师之一，官位中之极品）。刘思礼认为太师乃人臣之极贵，不是佐命之人无以至此高位，乃与洛州录事参军綦连耀谋反，阴与朝士连接，给人相面，许以富贵，等他们高兴之时，即称：“綦连耀有天命，大家跟随他必定能取得富贵。”凤阁舍人王剧当时兼任天官侍郎，竟然也相信这一套符命之说，趋奉效劳，根据刘思礼的要求，给他谋了个箕州刺史的职务，以应相士之言。明堂尉（负明堂守卫之责的军官）吉顼听到此事，即告诉已贬为合宫县尉的来俊臣。来俊臣被贬后一直想着怎么样翻身，他的唯一特长就是告密与酷刑，因此，这是对他来说是一个大好机会，于是他赶紧告变。武则天听说后，因事关重大，立即派河内王武懿宗审理此案。懿宗乐得借此机会，陷害反对武氏家族的人。他表示可以免刘思礼死罪，只要他把参加谋反的人都说出来，并按武懿宗所提供的朝廷大臣的名字进行诬陷。于是刘思礼把凤阁侍郎、同平章事李元素，夏官侍郎、同平章事孙元亨，知天官侍郎事的石抱忠、刘奇等人，给事中周潘及王剧之兄泾州刺史王勔、监察御史王助等凡三十六家海内名士，均牵连入狱，诛族，亲党连坐流窜者千余人，这是武则天统治后期最大的也是最后一场大狱。
来俊臣欲独吞功劳，还想罗告吉顼，吉顼闻知消息，赶紧上告武则天，才得以免死。结果，来俊臣与吉顼两人都因此得到任用。来俊臣故态复萌，又大兴罗告之风，先派党羽罗告司刑府史樊基谋反，将他诛杀。樊基的儿子诉冤于朝堂，没有人敢受理，只好用刀自剖其腹，以明冤情。秋官侍郎刘如辩见了不忍，窃叹而泣。来俊臣立即又诬奏他附恶逆，请处绞刑，武则天下令将他流放灌州。来俊臣因告綦连耀谋反之功，得赏奴婢10人。他见司农婢女粗俗，而西突厥可汗斛瑟罗家有很不错的婢女，善歌舞，便想使人诬告他谋反，然后夺其婢以为赏赐。斛瑟罗被诬后，诸酋长诣阙割耳涂面讼冤者有十多人。来俊臣是一位好色之徒，他还倚其势强霸民女，凡士民家妻妾很美，就想尽办法取之；或派人罗告其罪，矫诏取其妻。前后罗织所诛之人不可胜数。他们还将自宰相以下官员的名字记录下来，按名单加以陷害。时已贬任为监察御史的李昭德素来恶来俊臣，又曾在朝堂上辱骂秋官侍郎皇甫丈备，来俊臣便与皇甫丈备两人一合谋，便诬告李昭德谋反。李昭德这位自负才干的宰相也终于陷身狱中。
来俊臣由于深得武则天之宠，骄横不可一世，在党羽中自称有石勒之才，于是产生了谋反的念头。他不再听命于武承嗣，并决定由党徒罗告武氏诸王及太平公主，还欲罗告皇嗣及庐陵王与南北衙门官员同反。他以为满朝文武权贵同罹谋反之网，自己可以借皇上之宠信而独揽朝纲。这一阴谋被人告知诸武，诸武又告诉了太平公主，他们非常恐惧。太平公主虽是女流之辈，但素有果断的作风，于是立即罗列来俊臣的罪状，上告母皇。诸武也同时上告来俊臣。来俊臣这个猖狂的小丑终于入狱，刑司按法律条文处以极刑。武则天因他告谋反案立下大功，还是想赦免他，奏上三日还迟疑不决。大臣王及善上奏说：“来俊臣凶狡残暴，是国家之首恶，不除掉他，必然动摇朝廷。”武则天还是念其惩治谋反者之功劳，决定不下来。这天，武则天在皇苑游玩，吉顼牵马，武则天打听外面的事，吉顼说：“外人只怪来俊臣的案子还不判下来。”武皇说：“来俊臣有功于国家，朕还在思考怎么处罚他才恰当呢！”吉顼说道：“以前于安远揭露李贞等谋反的事，后来李贞等人果然谋反，于安远有这么大的功劳，也只被任命为成州司马。来俊臣的功劳有他的大吗？但他却聚集党徒，任意妄为，诬构良善，家中赃贿堆成小山，冤魂塞住道路，他是国家的乱臣贼子，有什么为他可惜的呢？”武则天听了才下定决心把他抛弃。
回到宫中，她便批准所奏，处死来俊臣，并同时处死有谋反嫌疑的李昭德。神功元年（697年）四月丁卯，来俊臣与李昭德同被处弃市之刑。时人无不为来俊臣之死而快意，又为李昭德之死而可惜。来俊臣被处死后，仇家争着去撕扯其尸首，他的尸体被踏成肉泥。武则天知民众痛恨来俊臣，乃下敕数其罪恶，还说：“应加以戮族之刑，以雪苍生之愤，可依法籍没其家。”士民都在路上互相祝贺说：“自今以后，大家可以睡安稳觉了。”来俊臣的党羽皆被流放岭南。
来俊臣受宠之时，知选事的部门秉承其旨意，铨选来俊臣的亲信数百人为官。来俊臣的事败露后，侍郎们都向朝廷自首。武则天责备他们，他们说：“臣等有负陛下，是死罪！但臣等乱国家之法，罪止及一个人；如违背了来俊臣的意志，立刻就是灭族之灾啊！”武则天听了，知道是自己太重用来俊臣，让他胡作非为，朝臣们都怕他，谁敢不听他的呢？因此，武则天就赦免了这些侍郎们。
一天武则天对朝臣们说：“前些时候，周兴、来俊臣审理案件，多牵连到朝廷大臣，说是他们反叛。国家法律摆在这里，我怎么能够违反呢？其中有的我也怀疑有冤枉，是滥用刑罚造成的，就派近臣到监狱中去审问，及得到他们手写的状纸，都是自己承认有罪，我就不怀疑了。自从周兴、来俊臣死后，就听不到谋反的事了，然而以前被杀的人中，是不是有冤枉了的呢？”
姚崇曾在刑部任职，办案公道，保过不少人，故对这方面情况比较熟悉；他对武则天也比较了解，他知道她也重用过一些坏人，滥杀无辜，然尚未完全被坏人控制，也任用一些正派人主管刑法，并在这个问题上能够听得进不同的意见。他针对武则天提的问题，直率而又诚恳地陈述了自己的看法，他说：“自垂拱（685-688年）以来，被告得家破人亡的，都是冤枉，都是自诬。告密的人因之而立功，天下都在罗织人罪，情况比汉朝的党锢之祸还要厉害。陛下派人到监中查问，被派去的人自身也难于保全，怎么敢去动摇原案呢？被问的人若要翻案，又怕遭到那些人的毒手。全靠老天保佑，皇上你醒悟过来，诛杀了坏人，朝廷才安定下来。从今以后，我以自身及全家百口人的性命担保，现在内外官员中再也没有谋反的人。恳求陛下，今后要是收到告状，只是把它收存起来，不要去追究就是了。假若以后发现证据，真的有人谋反，我甘愿承受知而不告之罪。”
姚崇的这一番话，虽然彻底否定14年来的酷吏政治，但句句都是实情，虽然痛斥奸邪，但又为皇帝能“诛助凶竖”大唱赞词，姚崇之言不失归美于君、引过在臣的为臣之旨，武则天果然“大悦”，赞叹道：“以前宰相皆顺成其事，陷朕为淫刑之主。闻卿所说，甚合朕心。”
武则天总算承认自己曾是“淫刑之主”，十分难能可贵。不过责任却在那些不负责任的宰相大人们，因为他们缺乏像姚崇这样敢以身家性命担保朝臣不反的勇气，致使“英明”的皇帝“陷”为“淫刑”之主。武则天为自己开出的帽子不可不谓大，然一“陷”字就化主动为被动，无意得之，其责自轻。
姚崇敢为同僚担保，又善于为君主开脱，自然要得重赏。武则天当即赐银千两，以资鼓励。