为了使中国黄页继续活下去，马云决定傍一个靠山，来增强自己抗击风险的能力，最后选定同杭州电信合作。1996年3月，中国黄页将资产折合成60万圆人民币，占30%的股份；杭州电信投入资金140万圆人民币，占70%的股份。
应该说马云当时有极好的机遇。第一，中国黄页毕竟是中国第一家互联网企业，占有绝对的先机；第二，中国互联网产业起步虽晚但市场巨大；第三，中国黄页一启动就找到了一种成功的盈利模式。
但后来发生的许多事情让马云始料未及。马云的战略目标是打造中国的雅虎，为此制定了一系列品牌培育策略，但杭州电信却有一套急功近利的经营策略。对此马云曾说：“做‘.COM’公司如同养孩子，你不可能让三岁小孩去挣钱吧！” 双方的裂痕愈来愈深，几个月后，合作终于走到了破裂的边缘。
1997年，马云不得不离开重组后的“中国黄页”，这是他一生中的第一次“滑铁卢”。
在离开中国黄页之后，马云带了5个年轻人，去了当时的外经贸部，在其所属的中国国际电子商务中心（EDI）出任信息部总经理，马云占30%的股份、外经贸部占70%的股份，但实际上马云一个月就几千圆的工资，其他什么也没有。马云还是很满足，他租了一间不到20平方米的小房间，没日没夜地干活，给外经贸部做站点，让外经贸部成为了中国第一个上网的部级单位。后来成功建设了国富通、中国商品交易市场等网站。
日子一久，马云发现在政府的编制里做事要受到许多限制，存在着种种说不清道不明的问题。怎么办？马云陷入了进退两难的境地。留在北京吗？机会倒是有，新浪和雅虎都希望马云去加盟，但马云发现在北京做事人心太浮躁，很难做成一件事。思来想去，马云决定还是回杭州发展。
就在马云做出决定的那一夜，他把团队的所有人都叫来，随后郑重地宣布了他的决定。
大家的心情特别沉重，为什么自己做了那么多，为公司赚了那么多，却要舍弃这一切而去！有人哭了，毕竟这里有他们难忘的岁月，有他们首创的事业。整整14个月，400多天的日子，真的可以就此离去吗？
马云对他们说：“我给你们三个选择权：第一，你们去雅虎，我推荐，雅虎一定会录取你们的，而且工资会很高；第二，去新浪、搜狐，我推荐，工资也会很高；第三，跟我回家，只能分800块钱，你们住的地方离我5分钟以内，你们自己租房子，不能打出租车，而且必须在我家里上班。你们自己做决定。”马云给了他们3天的时间做决定。
3分钟过去了，团队的所有人又走了回来，他们对马云说：“马云，我们一起回家吧。”
那一刻，一向坚强的马云掉了泪。也就是那一刻，马云对自己说：朋友没有对不起我，我也永远不能做对不起朋友的事情！我们回去，从头开始，从零开始，建一个我们这一辈子都不会后悔的公司。
这是1999年，这是马云创业过程中所经历的第二次失败。
屡次遭遇失败的马云，并没有就此陷入沮丧，英雄自古多磨难，马云的两次失败经历教会了他许多道理。
做中国黄页的成功，和杭州电信的一拍两散，让马云悟出一个道理：要让互联网生钱，最重要的是要务实。而14个月的北京之行，让马云学会了判断国家宏观经济发展方向。也因此，他和手下的十八罗汉南下创办了阿里巴巴，从此声名鹊起。
2010年2月26日，在黄金十年——企业家思想力论坛暨最具思想力企业家发布会上，马云入选十大最具思想力的企业家。在晚会现场，许戈辉向马云提了一个问题：“我知道马云去年刚刚庆祝了阿里巴巴的十年，一个特别真诚的发问：我们既不是最聪明的，也不是最勤奋的，我们为什么能够存活下来？你的答案在哪里？”
马云说：“其实这十年，也是我们犯错误的十年，大部分的错误我们反思和思考，别人看到我们十年是活了下来，但是很少有人看到我们十年里犯的无数的错误，碰到的无数倒霉的事情……人是在犯错误的过程中成长起来的，企业更是这样，所以我是允许自己犯错误，也允许别人犯错误，但是犯错误不可怕，可怕是不承认犯错误，我犯了错误还不承认，说我没犯过错误，这就麻烦大了。但是有一点我是这么觉得的，你说我犯错误最愚蠢的是什么，我觉得错误都TM愚蠢，没有说我犯过一个很聪明的错误，有的时候觉得，错误犯了也就犯了，不能关起来或者枪毙……”
的确，大困难面前往往苦其心志——失败远比成功更具有价值。这是马云在那些黑暗的日子里学到的最受用的一课。
巧用“王妃原理”
戴安娜嫁给了查尔斯王子，于是成了王妃，否则，永远是平民。弱势的一方，若找到一位比自己更强大者，借助其实力与名气，可以快速提升自己的关注度和地位，实现一些原来无法实现的目标。
请名人做形象大使，或做产品代言人，是企业常用的营销手段。马云在这方面上更是不遗余力，而且，他请的大人物通常是“未见其人，先闻其声”。
2000年7月29日，马云和阿里巴巴负责公关活动的市场部副总裁Porter在香港出差，有记者问马云，最喜欢、最崇拜的偶像是谁？马云说是金庸。
会后，在庸记酒家，马云如愿见到了金庸——自己崇拜多年的偶像。
事后，马云回忆起二人第一次在香港时的情景：“那天我是冲进办公室的，很激动，真的要见我偶像了，赶紧去把书拿来。然后我们公司负责公关的一个老外说，从来没见过你那么激动，听说是你的偶像，我也去看看，那个老外就跟着去了。见了金庸，说好是谈一个小时，结果我们谈了三个小时，他给我写了‘相见恨晚’四个字。我的老外朋友回来说好像都是你在讲话，感觉金庸不是你的偶像，好像你是金庸的偶像。”之后金庸到杭州，写了一幅字给马云——“善用人才，乃大领袖成功之要旨也，此乃刘邦刘备之所以成功，望马云兄长勉之。”从此，两人成了忘年交。
没过多久，马云就大胆萌发了一个创意，他想现在中国互联网的CEO都争得你死我活的，不如邀请金庸和新浪、搜狐、网易、8848四大掌门人聚一聚，搞个西湖论剑，岂不快哉！马云早已打听到，这四大掌门人除了张朝阳外，几乎都是“金庸迷”，把这次网络峰会比做西湖论剑，也是借用了金庸小说里华山论剑的掌故。
Porter一听马云这怪主意就跳了起来：“你疯了！这是不可能的！几个CEO之间关系都不太好，金庸又很难请到，你能不能给他们先打个电话，如果他们都同意，我可以协调。”
没想到金庸当即就答应了。马云再打电话给丁磊和王峻涛，两人都是金庸迷，一听金庸要来，很爽快地就答应了。接着马云又约到了张朝阳、王志东。
话说公元2000年9月10日，暖风吹得游人醉，金庸如期而至，前来赴会的有新浪的王志东、搜狐的张朝阳、网易的丁磊、8848的王峻涛，同时还有不请自到的上百名记者。
主持人金庸以一段别出心裁的开场白拉开了盛会的序幕：“我最近和张朝阳先生讲一件事。有一位老先生在几千年前，在钓鱼的时候用直的鱼钩，愿者上钩。这就是说他本意并不想骗人家上钩的。后来这位老先生慢慢走到东方，走到杭州，他不钓鱼了，他拿一个网撒下去，愿者上网。他不是故意骗人家上网的，愿意的就上来吧。有一次鱼在水里游，张朝阳先生看见很高兴。我当时问张朝阳，张朝阳不是鱼，你怎么知道鱼快乐？张朝阳说，你不是我，你怎么知道我不知道鱼快乐呢？所以今天这个会，我第一想表达的是：西湖上网，愿者上网，大家都快乐地谈。”
在金庸先生兴致勃勃地“点化”下，五大网侠很快就打开了话匣子。
丁磊说：“我是在金庸小说的熏陶下长大的。我曾经幻想和张无忌一样练成绝世武功打遍天下，可是武侠小说的人生是虚幻的，现实社会中既没有秘笈也没有师父、门派，一切只能靠自己拼搏。办网络和练武功有异曲同工之妙。”
王志东说：“我经常做一种对比，我说如果用金老先生的手法来写一下中国的IT产业，肯定写得特别过瘾。”
张朝阳说：“我是一个书呆子，懂网络却不懂金庸。虽然互联网的竞争没有刀光剑影，但我们也要各显神通。”
王峻涛说：“我看金庸的书主要看里面的道德规范。我经常把武侠小说里的社会和IT产业作对比，小说里人物的功夫都是博采百家之长，再自己融会贯通，不遵循固定的模式，这很符合IT业发展的需要。”
马云说：“金庸有部名著叫《笑傲江湖》，我认为笑必须有眼光，傲必须有实力，江湖就是网络。我这几年一直是‘外练一层皮，内练一口气’。我觉得搞网络就要有笑傲江湖的气度。人们经常问我5年后会怎么样，我要说的是，5年后已经没人再谈网络了，那时候网络深入千家万户，再谈，用杭州话来说就是很“背时”了。江山代代有人出，我希望明年西湖论剑时有新网侠到来，为我们畅谈网络的今天和明天。”
就这样，金庸，无形之中充当了淘宝网的代言人，成为马云手中最强势的一张王牌。以当时阿里巴巴的实力，与其他四大网站的实力，还是有较大差距的。而“西湖论剑”却从此奠定了马云在中国IT业的影响力。而早在10年前，赫赫有名的全球首富比尔·盖茨，也在马云的包装下，成了中国互联网的代言人……
也许，马云是太懂得“大树底下好乘凉”这个道理了，现在有种更时尚的说法叫“王妃原理”。为了吸引关注，马云和他的创业伙伴曾经编过一句广告词：“ 世界首富比尔·盖茨说，‘互联网将改变人类生活的方方面面’。”结果一分钱没花，就请了世界上最有钱的人做了他的“品牌代言人”。
这招的确是相当的绝！马云和他的中国黄页很快就吸引了媒体和大众的眼球。这也为马云随后要展开的媒体公关做好了铺垫。
借用别人的“脑袋”
许多创业者容易犯的通病就是总觉得别人不行，要么指手画脚，要么自己做，结果自己做得很累，也做不好。其实，一个真正的聪明人，总是善于借用别人的“脑袋”。
2000年10月，和中国其他的互联网企业一样，阿里巴巴同样经历了最痛苦的时期。他们面临着投资者对他们要求赢利的压力以及媒体对他们的批评。与此同时，他们也收到了许多会员对他们的抱怨和投诉。怎么办？马云和公司高层一起坐下来，没日没夜地分析、探讨。
吴炯不愧为硅谷精英出身，在雅虎多年的工作经历让他对技术和市场都有非凡的洞察力。他提议，“我们应该停下来，把技术平台完善，让系统稳定下来”。
那时，上阿里巴巴中文网站的一些老会员都反映说，每当访问量剧增的时候，网站就会出现堵塞、死机，整个系统运行非常的不稳定，也让用户有了不友好的体验。用户的忍耐到了一定限度，开始抱怨不断。这样，时间一久，访问量就下降了。
随后，吴炯又进一步解释说，阿里巴巴马不停蹄地全球跑马圈地，也的确给阿里巴巴带来了滚滚财源，但技术平台跟不上注定是要产生恶果的。听到这里，马云想了一下，的确，这大半年跑得太快了：美国、欧洲、香港、东南亚……
“不能再这样下去，阿里巴巴要建立一个优秀的企业，建立像Oracle、像微软这样的企业，技术平台就必须彻底改写，从底层数据库的改变，从平面结构的改变开始。” 吴炯进一步拿出了自己的具体意见。
虽说马云是个对IT技术一知半解的超级“菜鸟”，但有一点他做得非常好——“我不懂技术，但我尊重技术，尊重懂技术的人。”很快，马云就下了命令：立即停止所有正在开发的项目，所有的工程师都停下来做一件事——修复技术平台，完善系统功能。
最终的结果是，阿里巴巴建立了独特的技术平台，为其日后成为一台赢利的发动机奠定了深厚的基础。在同行们靠着投资者的那点美圆苟延残喘般地勉强支撑着时，阿里巴巴却几乎每月都有新产品推出来。用他的话说，“外面很冷，我们里面是热火朝天”。