宫冈在波恩宣布了他的发现两个星期后，公布了详细说明他的证明的共5页的代数式，接着对它的详尽研究就开始了。世界各地的数论家和微分几何学家逐行地研究这个证明，寻找逻辑中最细微的缺陷和错误假设的蛛丝马迹。几天之内就有几位数学家察觉到证明中似乎有令人担心的矛盾。宫冈的工作中有一部分会引出数论中的一个特别的结论，而这结论转换回微分几何学中时与一个早些年已经证明的结果是矛盾的。虽然这并不一定会全盘否定宫冈的证明，但它的确同数论与微分几何学之间的平行论哲学是抵触的。
又过去了两个星期，这时格尔德·法尔廷斯（他的工作为宫冈铺平了道路）宣布他已准确找出平行论中出现明显破绽的确切原因——逻辑上的一个缺陷。这位日本数学家本质上是一位几何学家，他没有能257做到绝对严格地将他的思想转换到他不够熟悉的数论领域。一支数论家的大军试图帮助宫冈补救错误，但他们的努力终告失败。从最初的声明算起两个月后，一致的意见是原来的证明注定是失败的。
像过去也有过的几次失败的证明一样，宫冈还是做出了新的有趣的数学成果。他的证明中的许多独特的部分，作为微分几何学在数论中的精妙应用，具有其本身的存在价值，后来被一些别的数学家进一步发展，用于证明其他的一些定理，不过绝不是费马大定理。
对费马大定理的争论不久就结束了，报界刊登简短的最新更正，说明这个300多年的谜依然没有解决。毫无疑问是由于受到各种媒体报道的影响，在纽约的第八街地铁车站出现了乱涂在墙上的新的俏皮话：
xn+yn=zn：没有解对此，我已经发现一种真正美妙的证明，可惜我现在没时间写出来，因为我的火车正在开来。
黑暗的大厦
没有人知道，这时的怀尔斯终于松了一口气。费马大定理仍然没有被征服，他又可以继续他的通过谷山志村猜想来证明费马大定理的战斗了。他说：“大部分时间我会坐在书桌旁进行演算，但有时候我会把问题归结为非常特别的某种东西——一条线索，某种我感到奇怪的东西，某种就在258纸下但我却不能真正指出它的东西。如果有某个特别的东西不断地使我感到兴奋，那么我就不需要任何写字的工具，也不需要任何书桌来在它上面工作，相反我会出去沿湖边散步。当我走着的时候，我发现我能够专心地思考问题的某一个非常特别的方面，全身心地贯注于其中。我总是准备好一支笔和一张纸，因此如果我有了一个想法，我就能在长凳上坐下，开始飞快地写下去。”
经过3年不间断的努力，怀尔斯做出了一系列的突破性工作。他将伽罗瓦群应用于椭圆方程，他将椭圆方程拆解成无限多个项，然后他证明了每一个椭圆方程的第一项必定是模形式的第一项。他已经推倒了第一块多米诺骨牌，现在正在钻研可能会引起所有的多米诺骨牌倒塌的技巧。
事后看来，这似乎像是一个证明的必由之路，但是能走到这么远的地步，确实需要有巨大的决心来克服长期的自我怀疑。怀尔斯借用穿越一幢漆黑的未经探测的大厦的经历来描述他在做数学研究时的感受。“设想你进入大厦的第一个房间，里面很黑，一片漆黑。你在家具之间跌跌撞撞，但是逐渐你搞清楚了每一件家具所在的位置。最后，经过6个月或再多一些的时间，你找到了电灯开关，打开了灯。突然整个房间充满光明，你能确切地明白你在何处。然后，你又进入下一个房间，又在黑暗中摸索了6个月。因此，每一次这样的突破，尽管有时候只是一瞬间的事，有时候要一两天的时间，但它们实际上是这之前的许多个月里在黑暗中跌跌撞撞的最终结果，没有前面的这一切它们是不可能出现的。”
1990年，怀尔斯发现自己正处在似乎是所有房间中最黑暗的一间中。他在其中探索259了差不多2年之久。他仍然无法证明如果椭圆方程的一项是模形式的项，那么下一项也应如此。将公开发表的文献中的各种方法和技术都尝试过后，他发现它们都不足以解决问题。他说：“我真的相信我的思路是正确的，但这并不意味着我一定能达到我的目的。很可能解决这个特殊问题所需的方法是现代数学无法实现的，或许我为完成这个证明所需要的方法再过100年也不会被发现。因此，即使我的思路是正确的，我却生活在一个错误的世纪中。”
怀尔斯并不气馁，他又坚持了一个年头。他开始研究一种称为岩沢理论（Iwasawatheory）的技术。岩沢理论是分析椭圆方程的一种方法，怀尔斯在剑桥当约翰·科茨的学生时已经学过。虽然这个方法本身不足以解决问题，但他希望能够修改它，使它变得足够有力，能产生多米诺骨牌效应。
自从利用伽罗瓦群做出首次突破以来，怀尔斯遭受的挫折越来越多。每当压力变得太大时，他会转向到他的家庭。从1986年开始研究费马大定理以来，他已两次当了父亲。他放松一下情绪的唯一方式是和“孩子们在一起。年幼的孩子们对费马毫无兴趣，他们只需要听故事，他们不想让你做任何别的事情”。
科利瓦金弗莱切方法
到了1991年的夏天，怀尔斯感觉到他改进岩沢理论的努力已经失败。他必须证明：每一块多米诺骨牌，如果它本身被推倒，则将推倒下一块多米诺骨牌，即如果椭圆方程的E序列中的一个元素与模形式的M序列中的一个元素相配，那么下一个元素也应如此。他还必须能保证每一个椭圆260方程和每一个模形式都是这种情形。岩沢理论不可能给予他所需要的这种保证。他再一次查遍了所有的文献，仍然找不到一种可替代的技术来帮助他实现他所需要的突破。在普林斯顿当了实际上的隐士达5年之后，他认定现在是重返交流圈以便了解最新的数学传闻的时候了，或许某地的某人正在研究一种创造性的新技术，而由于某种原因迄今还未公开。他北上波士顿去出席一个关于椭圆方程的重要会议，在那里他肯定会遇见这门学科中的一些主要研究者。
怀尔斯受到来自世界各地的同行们的欢迎，他们很高兴在他这么长时间不参加各种会议之后又见到他。他们仍然不知道他一直在从事什么研究，而怀尔斯也小心翼翼地不露出任何迹象。当他向他们询问有关椭圆方程的最新动态时，他们对他的别有用心毫不起疑。起初的一些反馈对于怀尔斯的困境并无帮助，但是与他以前的导师约翰·科茨的见面却是非常有益的：“科茨向我提及他的一个名叫马瑟斯·弗莱切（MatheusFlach）的学生正在写一篇精妙的分析椭圆方程的论文。他是用最近由科利瓦金（Kolyvagin）设计的方法来做的，看上去仿佛他的方法完全是为我的问题特制的。它似乎恰恰是我需要的，虽然我知道我还必须进一步发展这种所谓的科利瓦金弗莱切方法。我把我一直在试用的旧的处理方法完全丢在一边，夜以继日地专心致志于扩展科利瓦金弗莱切方法。”
261理论上，这个新方法可以将怀尔斯的论证从椭圆方程的第一项扩展到椭圆方程的所有各项，并且有可能它对每一个椭圆方程都有效。科利瓦金教授设计了一种极其强有力的数学方法，而马瑟斯·弗莱切将它进一步改进，使得它更具潜力。他们两个谁也没有意识到怀尔斯打算把他们的工作用到世界上最重要的证明中去。
怀尔斯回到了普林斯顿，花了几个月时间熟悉他新发现的技术，然后开始改造和使用它的庞大工程。不久，对一种特殊的椭圆方程，他已经使归纳证明奏效——他能推倒所有多米诺骨牌。不幸的是，科利瓦金弗莱切方法对一种特殊的椭圆方程能行得通，但不一定对别的椭圆方程行得通。他最终认识到所有的椭圆方程可以分类为不同的族。一旦科利瓦金弗莱切方法经修改后对某个椭圆方程奏效，那就对那一族中所有的别的椭圆方程都奏效。任务是要改造科利瓦金弗莱切方法使得它对每一族都能奏效。虽然有些族比其他族更难对付，怀尔斯却坚信他能按自己的方法一个接一个地解决它们。
经过6年的艰苦努力，怀尔斯相信胜利已经在望。每个星期他都有进展，证明了更新、更大族的椭圆曲线一定是可模形式化的。看来好像做完那些尚未解决的椭圆方程只是个时间的问题了。在这个证明的最后阶段，怀尔斯开始认识到他的整个证明依靠的是他几个月前刚刚发现的技术。他开始对自己是否正在以完全严格的方式使用科利瓦金弗莱切方法提出质疑。
怀尔斯说：“那一年我工作得异常努力，试图使科利瓦金弗莱切方法能成功，但是它涉263及许多复杂的我并不真正熟悉的方法。其中有许多很艰深的代数，需要我去学许多新的数学。于是，大约在1993年1月份的上半月，我决定有必要向一个人吐露秘密，而他应该是一位我正在使用的那一类几何方法方面的专家。我需要非常小心地挑选这个我要告知秘密的人，因为他必须保守住秘密。我选择了向尼克·凯兹（NickKatz）吐露秘密。”
尼克·凯兹教授也在普林斯顿大学数学系工作，认识怀尔斯已经有好几年。尽管他们关系密切，凯兹已经记不得当时在走廊里所讲的每一句话了。他努力回忆起怀尔斯吐露他的秘密时的种种细节：“有一天怀尔斯在饮茶休息时走到我身边，问我是否能一起到他的办公室去——他有些事想和我谈谈。我一点也不知道他会和我谈什么。我和他一起到了他的办公室，他关上了门。他说他认为他将能够证明谷山志村猜想。我大吃一惊，目瞪口呆——这真是异想天开。
“他解释说证明中有一大部分是依靠他对弗莱切和科利瓦金的工作所作的扩展，但是它是非常专门性的。他对证明中这一高度专门性的部分确实感到没有把握。他想和某个人一起讨论这一部分，因为他需要保证它是正确的。他认为我是帮助他核对的正确人选，但是我认为他特别选中我还有另一个原因。他相信我会守口如瓶，不会告诉别人有关这个证明的事。”
在6年的孤军奋战之后，怀尔斯终于吐露了他的秘密。现在凯兹的工作是要勉力对付这一大堆极为壮观的基于科利瓦金弗莱切方法作出的演算。实际上怀尔斯完成的每一件事都是革命性的，关于彻底检查它们的途径凯兹提出了许多想法：“安德鲁必须解释的内容既多又长，264要想在他的办公室里通过非正式谈话解释清楚是不可能的。对于像这样的大事情，我们确实需要以正式的每周定时的讲座方式来进行，否则事情会搞糟的。所以这就是我决定设立讲座的原因。”
他们认定最好的策略是宣布举行一系列面向系里研究生的讲座。怀尔斯将讲授一个课程，而凯兹将会是听众之一。这个课程将有效地包括需要核对的那部分证明，但是研究生们是不会知道这一点的。以这种方式将核对证明这件事伪装起来，其优点在于这将迫使怀尔斯一步接一步地去解释每一件事而又不会引起系里的任何怀疑。就其他人而言，这只不过是又一门研究生课程。
“于是安德鲁宣布这个讲座的名称为‘椭圆曲线的计算’”，凯兹俏皮地一笑，回忆说，“完全是一个泛泛而谈的标题——它可以随便代表什么。他没有提到费马，也没有提到谷山志村，他一开始就进入专门性的计算。世界上不可能有人能猜到这种计算的真正目的。它是以这样一种方式来进行的，除非你知道这是做什么用的，否则这种计算看起来好像非常地专门，并且冗长乏味。而如果你不知道这些数学是做什么用的话，你就不可能懂得它。即使你知道它是做什么用的，它也是很难搞懂的。不管怎样，研究生们一个接一个地逐渐消失，几个星期后我就成了留在听众席中仅有的一个人。”
凯兹坐在演讲厅中，仔细地听着怀尔斯的演算中的每一步。到这个课程结束时，他的评价是科利瓦金弗莱切方法似乎是完全可行的。系里没有别的人意识到这里265一直在进行着的事。没有人怀疑怀尔斯正处于摘取数学中最重要的奖的边缘。他们的计划是成功的。