利玛窦开始寻找机会离开这里，因为他的目标是大明王朝的权利中枢——北京。
但是他清楚，一个西方人游走在中国内地，是充满危险的，只有得到相关特权的庇护，才能去纵穿这条相当于从马德里到柏林的旅程。这位满嘴中国话的意大利传教士越来越感觉到，利用好中国官员的裙带关系，是一件多么重要的事情啊。任何一个在地方上有头有脸的人物，都能在京城里攀援上自己的靠山，利玛窦坚信，只要自己继续做好自己的角色，广泛结交官场，北京之路总有一天会畅通无阻，他在等待这样的机会。
1598年盛夏的一天，一位客人来访，此人名叫王弘海，曾官至南京的礼部尚书，后遭官场阴谋而请辞。返回广东老家时曾与利玛窦有过接触，对传教士的天文学造诣很是欣赏。现在他官复原职了，因此想举荐利玛窦前往北京面见天子，如若能获得皇帝的首肯，那岂不是也为自己的仕途增加一份筹码。这就是中国的官场游戏规则，利玛窦早已清楚，所以他才广种薄收，说不准谁就可以一鸣惊人，给予他最有价值的提携。
但是利玛窦的第一次北京之行非常不顺利，王弘海的奏折如石沉大海，杳无音讯。利玛窦也更加真切的看到了大明王朝糟糕透顶的政治局势，在万历这个昏君治下的京城，皇宫里的太监们沆瀣一气，把持朝纲，文武百官的建言很难被传达到皇帝的耳朵里。此时利玛窦也陷入经济困顿之中，他十几年来的开销主要依靠澳门的葡萄牙商人提供，偶尔也会获得中国官场人士的资助。但是在陌生的北京，澳门的汇票兑不出银钱，又没有可靠的关系网，无奈之下，他只得选择离开。利玛窦的心情可想而知，他愤懑的写道：“北京就像巴比伦一样混乱，充满了罪恶，没有正义，也没有救赎的希望。”
接下来的几年，利玛窦生活在南京，对北京的失望并没有使他消沉，中国几千年来奇特的政治，他无法改变，只有接受。中国的文士在官场失意时，可以寄情于山水之间，但是利玛窦还做不到这一点，他在骨子里还是一个执着的传教士，只有继续等待机会。
1600年，在地方官员的帮助下，利玛窦再次沿京杭大运河北上。为了博得龙颜一悦，他特地准备了觐见皇帝的礼物：几幅圣母与基督的画像，一本天主教祈祷书，和一个十字架形状的圣物箱，这些物品对于天主教徒来说都具有无比神圣的意义。但是他很怀疑，皇帝能否对这些东西产生兴趣，于是他又带上了两副玻璃三棱镜，一架铁弦琴和两座自鸣钟，这些讨巧的物件或许可以派上用场。
这次北京之行也是费尽了周折，船行至天津，便被朝中太监扣留，任何向皇帝进贡的行为，均躲不过这一关。衙役在利玛窦的行李中搜出了一副十字架，上面还钉着一个几乎赤身裸体，浑身鲜血的人形塑像。在对基督教没有任何接触的中国人眼中，这无疑是邪恶之物。利玛窦百口难辨，只得与这些掌握生杀大权的太监们拼命周旋。终于，皇帝的圣旨到了，他要看看那些进献给他的稀奇玩物，利玛窦得意再次进入北京。他被关押在驿馆中，现在决定他命运的只有那些进献给皇帝的礼物了。
万历皇帝对天主教圣物只有好奇，而对于三棱镜和自鸣钟，则煞是喜欢，在他的兴趣还没有消退之前，利玛窦起码是安全的。但是他想觐见中国皇帝的梦想，却难以穿越那层层的紫禁城宫墙。即便是自鸣钟停止了报时，令万历不悦，利玛窦也仅仅是被获准进入皇宫，培训几名小太监去维修。但是历时30年，终于站在大明王朝的天子脚下，他的外邦传教士身份没有引来杀身之祸，这也算成功了。
在京城的余下岁月中，利玛窦继续结交中国的文官阶层，徐光启、李之藻、杨廷筠等高官成为他互相尊重的朋友。在他的影响下，三人受洗入教，李之藻和杨廷筠还休掉小妾，遵行一夫一妻的原则。这些学富五车的有识之士，对利玛窦所掌握的西方科学萌发了兴趣，在他们的共同努力下，一些西方科学知识被引入中国。虽然耶稣会传教士所学的天文学理论还没有吸收进哥白尼的“日心说”，但对于当时中国的历法而言，已经足够进步了。
1605年的一天，一位阅读过利玛窦著作的人，从中原的开封来到京城求见。通过接触，利玛窦惊奇的发现，这个长相很中国的人对《圣经.旧约》几乎了如指掌，但对耶稣和福音却全然不知。只有犹太人才会具有这种思想！事实上，的确有一些犹太人的后裔生活在开封城中，他们的祖先如何辗转来到中国，已经不得而知。利玛窦发现，这些犹太后裔虽然仍以《十诫》作为最高律法，但在生活方式上已经十分中国化了，也会在逢年过节摆上酒肉祭祀祖先，只不过杜绝猪肉而已。1500余年的流散历史中，犹太人寄篱在欧洲的不宽容之中，时刻遭受迫害和驱逐，这使得他们的上帝选民意识更加强烈。而在东方那种包容一切的文明结构里，犹太人只有渐渐被同化的命运。
通过与中国文士们的接触，利玛窦深深的意识到，在这个东方文明古国里，笔是最重要的武器，文字可以杀人，亦可引来杀身之祸。因此他呼吁传教士们务必要钻研中文，这其中的难度可想而知，利玛窦一度想利用拉丁字母为汉字注音。这一思路过于超前，但几百年后的我们，几乎时刻都要依赖拼音，包括我此刻在电脑前输入这些汉字。1609年，利玛窦在致耶稣会总部的信中，建议“派遣最好学的天才传教士来中国，因为与我们打交道的文人们聪明又有学识。”
1610年，利玛窦在北京去世，他58年的人生中，一半时间在中国度过，除了容貌和灵魂，他已几乎就是一个中国人。也和绝大多数东方老百姓一样，利玛窦始终没有见到天子，但他应该满足，因为中国已经有2000多名天主教徒了，其中不少是文人。
李之藻上书万历皇帝，恳请赐予这位西方人一块墓地，万历可能念在自鸣钟的份上，答应了请求，利玛窦被葬在了现北京阜成门外。