德意志人在罗马的影响瞬间就大打折扣，新教皇完全在教规的选举程序下产生，几年前跟随洪贝特前往君士坦丁堡的一位助手，成为了新任罗马教皇，这就是史蒂芬九世。曾经做过卡西诺修道院院长的新教皇对德意志皇帝非常反感，而实际上，在罗马的教会圈子里，始终就有一股反德意志的力量存在，亨利三世英年早逝为他们提供了重新夺权的时机。
史蒂芬九世派遣助手希尔德布兰德前往德意志，争取到了亨利三世遗孀对自己当选的认可。很可惜，史蒂芬九世仅仅做了一年教皇就撒手人寰，在遗言里，他嘱咐手下的枢机主教，在希尔德布兰德从德意志回来之前，不可以选举继任教皇。之后的局势完全验证了这位教皇的担忧，对立的罗马贵族在暴力之中册立了一位新教皇。
希尔德布兰德马不停蹄的从德意志宫廷归来，在锡耶纳召集罗马的枢机主教们选举出了另一位教皇——尼古拉二世，并驱逐了不合法的篡位者。紧接着，希尔德布兰德与那位曾经将东部教会集体开除教籍的枢机主教洪贝特一同起草了“教皇选举法令”。明令只有罗马教会的枢机主教团成员才有选举教皇的提名和投票权，而且只有在罗马供职的神职人员才有资格作为教皇候选人。并且反对世俗册封，教士不得从皇帝、国王手中接受主教、修道院院长或其它神职。
不久之后，洪贝特病逝，克吕尼修道院出身的希尔德布兰德，成为罗马教会的秘书长，掌控实权。他大力推进克吕尼改革运动，并赋予了其明确的政治方向，正如他所言：“要把新的道德优势折射到世俗统治中，罗马教皇应具有超越世俗君主的最高权威。”
这些改革派的罗马教会高层人士预感到，这些新规定势必会引起德意志人的不满，只是现在的皇帝还实在年轻，完全不理解政治上的利益冲突而已。希尔德布兰德运筹帷幄，开始为教会未来几十年的前途四处打量，他将目光投向了南方，盘踞在意大利半岛南部，几年前还囚禁过利奥九世的诺曼人。即使曾经是兵戎相见的敌人，为了共同的利益，也可以走到一起，就好像当初罗马教皇物色到北方的德意志人一样。
很快，尼古拉二世在秘书长的谋划下将南部的一些土地册封给诺曼人的首领，得到的回报也相当丰厚：诺曼人除了每年交纳封地税之外，还发誓要从阿拉伯人手中夺回西西里，最为重要的是，他们承诺为罗马教会提供保护，尤其是确保教皇选举秩序的运行。
罗马的这一举动不出意外的令德意志人十分不满，皇帝的顾问和当地主教宣布尼古拉的当选不合法，并拒绝教皇的使者进入德意志宫廷斡旋。1061年，尼古拉二世病逝，罗马的反对派贵族请求德意志继续按照惯例提名一位新教皇。但是已经独揽大权的希尔德布兰德及时的组织枢机主教们选举出了继任教皇——亚历山大二世，避免了德意志人插手罗马教会历史的重演。
德意志的愤怒转化为行动，他们马上就册立了一位对立教皇，霍诺留二世，这得到了那些反对教会改革的罗马地方贵族的支持。奥托时代，皇帝和教皇联合起来反对这些罗马贵族，而现在受改革派影响的教皇却成为了一意孤行的一方。
此时的德意志皇帝亨利四世还只是个十几岁的孩子，根本无力组织起任何可以南下意大利的军事力量，况且他身边的诸侯们也不是完全与皇室站在同一阵营，所以这种对立的局面只有继续无奈的维持下去，等待皇帝的慢慢成长。