长安四年（704）秋，武则天病重，她知道自己可能支撑不了多久，于是重新充实宰相班子，以期能够稳定局面。这时候，原宰相姚崇被二张排挤暂时离开了政治中枢，临行前，他向武则天推荐张柬之为相。
张柬之，襄阳人，进士出身，但是长期仕途不顺。永昌元年（689），武则天征召贤良时，他自荐参加考试，以65岁高龄考取了第一名，被授予监察御史之职。而狄仁杰在世时，就对张柬之的才干赞许有加，认为他是国家栋梁之才，是宰相的不二人选，并多次向武则天推荐张柬之。其实，狄仁杰虽为武则天重用，但是他心向李唐，为武则天效命也是为日后李氏翻身做好准备工作。所以，他在为官期间，留心提拔那些忠于李唐、才能出色的人才，张柬之就是其中之一。由于两个德高望重的宰相都推荐张柬之，武则天自然认为此人一定具备宰相的素质。不久，八十岁的张柬之成为大周朝的最后一任宰相。
而此时武则天身体状况并没有大的好转，只是在苦苦支撑。在这种情况下，各方势力都在争取做好执掌国家大权的准备。张柬之心怀复唐大事，立即利用手中的权力对中枢进行了调整。他首先从军权下手。当时唐朝的禁军分为南北两衙，南衙相当于京城巡警，北衙负责皇城警卫，分别由六位将军统领。张柬之先找到右羽林大将军（属于北衙）李多祚，他是外族的名将，靺鞨族的酋长，掌握禁军已经二十多年，是禁军中威望较高的将领。张柬之从李多祚的念唐情结下手，提起当年高宗李治将其提拔为高级将领的事情，希望他能帮助自己实现匡复李氏的愿望。李多祚本来就对唐朝深有感情，听张柬之这样说，立即表态支持。两人还当即对天盟誓。做完李多祚的工作，张柬之立即对禁军将领进行了调整，将之前已经约好起事的桓彦范、敬晖、李湛等人安排到禁军，掌握军权，随时听候差遣。而禁军的变动，也引起了二张的注意。为了掩人耳目，张柬之故意将武氏家族的武攸宜也安排到禁军，使二张放心。此招果然蒙蔽了二张，二张没有政治经验，自认为只要是武则天还活着，自己就能无事，对于张柬之的行为也就不再干预。而后张柬之又将信得过的人纷纷调任重要岗位，牢牢抓住国家权力，为日后推翻女皇统治打下了基础。
而在张柬之忙得热火朝天的时候，李显那边却是鸦雀无声。对于李显来说，只要母亲存在，他的惧母情结就不会消失。但李显对于二张也是敢怒不敢言。在长安元年（701）九月，李旦的长子李重润和妹妹永泰郡主及郡主的丈夫魏王武延基（武承嗣的儿子）在一起议论张易之擅权。结果有人向张易之告密，张易之将此事告诉了武则天。武则天大为恼火，立即让李显处置这三个人。李显知道母亲还是对自己不放心，只好让三人自缢而死。这样李家和武家都与二张结下了梁子，只是有武则天尚在不好发作罢了。武氏宗族也因二张霸权，心存不满，对待反对二张的事情作壁上观。太平公主那边上面已经说了，也是想除掉二张。这几股势力拧在一起，二张的末日真的不远了。
二张这时候也感到了自己的处境岌岌可危。二张心里很清楚，这些年来，把能得罪的人都得罪了，唯一的靠山就是武则天。而现在武则天久病在床，对局势的掌控能力已经大大削弱了，只有再找些可靠的人才能应对不测。不过毕竟他们的根基太浅，对付长期盘踞朝廷的各方势力真是微不足道。据说，张易之的新府邸建好后，就有鬼在墙上写字：“能得几时？”多次抹去无效，后写上了“一日即足”后，就消失没有了。虽然这事不太可信，但也从一方面暗示了二张已经走到了穷途末路。