美军继朝鲜战争失败之后，好不容易从越南战争的“泥潭”中拔出腿来。两军交战必交恶，这时的美朝关系和美越关系降到了冰点。而作为坚决支持朝鲜和越南反对外来侵略的中国，与美国的关系也一直处于敌对状态。朝鲜停战协定签订，也并没有使干戈化为玉帛。1954年，解决朝鲜和印度支那和平问题的国际会议将在日内瓦召开。由于中国在解决上述两个地区的问题中具有举足轻重的作用，使得一直对中国持敌视态度并坚持“老死不相往来”的美国，只好同意苏联外长莫洛托夫的建议，邀请中国派代表团参加日内瓦会谈，共商朝鲜和印度支那的和平问题。这就应了中国“不是冤家不聚头”那句老话，中美两国自板门店谈判后，又一次坐在了同一张会议桌上。
多年的敌对状态，双方在会议上对一些重大原则和是非问题针锋相对、互不让步是显而易见的，甚至连相互交往的起码礼节也涂上了浓浓的政治色彩。
美国国务卿杜勒斯这位反共的死硬分子，在会前向他的代表团成员发布禁令，不准与中共代表团成员握手。然而，美国代表团成员中的有识之士却认为，中华人民共和国的存在，是一个无法回避的现实，不管你承认它，还是不承认它，都不可能完全不打交道，否则日内瓦会议请人家来干什么？于是，就有了美国副国务卿史密斯对周恩来总理在会下套近乎的不寻常举动。
日内瓦会议即将结束的最后一天，史密斯主动来找周恩来攀谈，他微笑着对周总理说：“会议即将结束，我感到非常荣幸和高兴能够在这里和你认识。中国代表团在这次会议上发挥了很大作用。我们希望不管朝鲜也好，越南也好，都恢复和平。”说罢，他抓住周总理的胳膊使劲摇了摇，然后笑眯眯地走开了。
史密斯此举虽遵守了杜勒斯规定的纪律，没有与周恩来握手，但用摇胳膊的方式表达了与握手同样的友好愿望。
其实，美国在会议期间还有更具实质性的主动与中共代表团接触的表示。
日内瓦会议期间的5月19日，周恩来正在自己的房间里阅读会议文件和有关资料，我代表团成员宦乡推门走了进来，向周总理汇报了一个重要情况。
他说：“今天，英国驻华代办杜威廉对我说，他愿以私人身份就在华美侨问题和在美华侨问题作一个中美之间的中介人。”
周恩来听了宦乡的汇报，立即联想到中国有一批留学生和科学家被扣留在美国，其中包括钱学森等着名的科学家。他们对于新中国来说可是宝贵的“财富”呀。
“美国方面是想要回我们在朝鲜战场上俘虏的美军和一批在中国犯了罪的平民。”宦乡的话打断了周恩来的思考。周恩来说：“我们也有一大批留学生和科学家被扣留在美国，我们应利用这个机会让他们回到祖国的怀抱。”他一边思考一边对宦乡说，“在中美关系如此紧张的情况下，我们应该抓住美国急于要求在华被押人员获释的意愿，开辟新的接触渠道。……这个问题你需留心一下，看美国方面下一步怎么走。如果美方再试探，可以同意经英方中介进行直接接触。另外，可根据美方的态度，确定在什么地方举行谈判。但谈判中首先要联系中国留美学生和科学家被扣问题。”为了掌握主动，5月27日，我国代表团发言人向新闻界发表了关于美国无理扣押我国侨民和留学生的谈话。同时表示，中国愿意就被扣押人员问题同美国举行直接谈判。
美国立即作出积极的反应，在杜威廉的撮合下，经过6月1日和4日两次接触，最后达成协议：美国代表团指定其驻捷克斯洛伐克公使约翰逊为代表、国务院远东司副司长马丁为助手与中方接触；中方由王炳南为代表、柯柏年为助手与美方接触。根据美方的建议，中方同意接触地点在“国联大厦”。
6月5日上午10点，中美双方在日内瓦“国联大厦”进行了第一次会谈。
这次会谈的地点是美方选择的。由于当时美国还没有承认中华人民共和国，约翰逊为避免形成两国政府正式谈判的气氛，有意选择了“国联大厦”里一间没有桌子，只有几套沙发的会客室，给人以会客的感觉，可谓用心良苦。
第一次的会谈进行了约半个小时。一阵寒暄之后，约翰逊提出，在华被扣的美国人共有83人，希望中方能让这些美国人早日离华返美。我方代表王炳南表示，希望美方就今天提出的问题，提交一份具体名单。关于在美国被扣留的中国侨民和留学生问题，中方将在以后的商谈中提出。
6月10日，双方举行了第二次会谈。这次会谈的地点由我方选择。为了与美国代表团针锋相对，中方在“国联大厦”选了一个房间，有意在房间里摆了一张大长桌子。我方坐一边，美方坐一边，形成两国政府正式谈判的气氛。
会谈一开始，约翰逊提交了一份所谓被中国政府扣留的美国侨民与军人的名单，并要求中方给予这些人早日回国的机会。对此，王炳南作了原则性的答复。他说：“只要双方都有解决问题的诚意，这个问题是不难解决的。在中国的美国侨民，只要他们遵守中国的法律，他们是会得到保护的。他们可以在中国境内居留，从事合法的职业。如果他们为了某种原因要离开中国回美国去，只要他们没有未了的刑事案件或民事案件，他们随时都可以走。实际上，自中华人民共和国成立以来，已经有1485名美国侨民离开了中国。至于在中国从事间谍和破坏活动的极少数美国人，他们被扣押是罪有应得的。你方交来的名单，我们将进行研究并在下次会谈中予以答复。关于美国政府扣留中国留学生的问题，我们准备在下次会谈中提出。6月15日，中美举行的第三次会谈。王炳南首先答复了美方6月10日提出的被拘禁在中国的美国人与家属通信等问题。接着，他就美国政府无理扣留我国留学生问题与之进行了严正交涉。王炳南郑重指出：“中国现有5000多名留学生在美国，有不少留学生要求回国，但遭到美国政府的百般刁难，禁止他们申请离境，甚至威胁说，谁要是违反这一命令，将被判处50000美元以下罚款或者5年以下徒刑，或者同时予以两种处罚。这是毫无道理的。我们要求美国政府立即停止扣留中国留学生，并恢复他们随时离开美国返回中国的权利。至于居留在美国的中国侨民也同样应享有随时回国的权利。”
对此，约翰逊辩解说：“扣留中国的学者完全是按美国的法律行事的。”王炳南明白，他所说的法律是指在朝鲜战争期间，美国政府发布过的一道命令，规定凡是高级物理学家，其中包括受过像火箭、原子能以及武器设计这一类教育的中国人，都不准离开美国。针对约翰逊的狡辩，王炳南反驳道：“这是无理的规定，应该予以废除。”
在中美双方举行的第四次会谈中，约翰逊仍然打出“法律”牌为美方扣留我留学生辩解，遭到王炳南又一次的严厉驳斥，双方不欢而散。
1954年7月21日，日内瓦会谈结束。从1954年9月2日起到1955年7月15日，有关侨民回国事，中美双方继续在日内瓦举行领事级会谈。然而，在前后共举行的17次会谈中，由于美方缺乏诚意，会谈未取得任何成果。
日内瓦会议上的中美会谈虽然没有达成任何协议，但它却为此后15年中美大使会谈打开了大门。
1954年日内瓦会议以后，美国并不甘心它在日内瓦会议上的失败。作为对我国的报复，美国政府与台湾的蒋介石集团于1954年12月2日签订了所谓“防御条约”。这个条约的目的，一是美国企图使其侵占台湾的行为合法化；二是以台湾为基地，扩大对中国的军事对抗和准备新的战争。为了表明中国人民解放台湾的决心，打击美蒋的“共同防御条约”，我中国人民解放军于18日发动攻势，一举解放了一江山岛，之后又解放了大陈岛。12月底，中国政府又扣押了13名在中国从事破坏活动的美国间谍。
面对形势的发展，美国意识到军事讹诈吓不倒英勇无畏的中国人民，也认识到拒绝与中国接触的政策是失败的。因此，1955年1月，美国授意联合国秘书长哈马舍尔德通过印度的中介以他个人的名义访华，实际上是想来试探我将如何处置13名美国间谍以及其他情况。我国政府同意了他的来访。在会谈中，周恩来向他指出，联合国在我代表权问题和朝鲜战争问题上的立场是不公正的。同时重申，是美国跑到远东来制造紧张局势，美国应停止干涉中国内政，从台湾和台湾海峡撤走军队。为了真诚地表示中国人民热爱和平的美好愿望，1955年4月23日，周恩来又就中美关系问题发表了一个历史性的声明：“中国人民同美国人民是友好的。中国人民不想同美国打仗。中国政府愿意同美国政府坐下来谈判，讨论缓和远东局势的问题，特别是缓和台湾地区的紧张局势的问题。”
周恩来的声明立即在全世界引起了强烈的反响，赢得了国际舆论的好评。
许多国家，特别是参加亚非会议的国家，都向美国施加压力，希望美国能响应周恩来的号召，同中国政府直接谈判。7月13日，美国政府通过英国向中国建议，中美双方互派大使级代表在日内瓦举行会谈。从此，中美两国开始了长达15年之久的“马拉松”式的大使级会谈。
1955年8月1日，中美第一次大使级会谈在瑞士的日内瓦“国联大厦”内举行。我方代表是驻波兰大使王炳南，美方代表恰好是王炳南在日内瓦会议中交锋过的对手，美驻捷克斯洛伐克大使尤·阿·约翰逊。
为表示中方对这次中美大使级会谈的诚意和所持的积极态度，7月31日，即在会谈开始的前一天，中国最高人民法院军事法院按照中国的法律程序作出判决，提前释放阿诺德等11名美国间谍。
由于中方宣布释放美国间谍，因此第一次的会谈气氛较为轻松愉快。双方较顺利地达成了会谈议程的协议：一是讨论遣返双方侨民问题，二是讨论双方有争执的其他实际问题。
8月2日，中美举行第二次会谈。约翰逊称，有36名美国平民仍被扣留，此事影响美国人民及政府对中国的态度。王炳南则说：“在美国的中国侨民，绝大多数人的家属都在中国大陆。长期以来，由于美国政府的限制和在实际上所造成的困难，他们不能自由返回祖国，无法回到各自的家庭。这个问题不仅是他们所迫切要求解决的问题，也是中国人民和中国政府所一向非常关心的问题。”
王炳南发言以后，约翰逊对美国阻挠中国侨民和留学生回国一事做了辩解，声称美国政府绝对没有阻碍中国学生离开美国。针对约翰逊信誓旦旦的保证和声明，王炳南在8月4日举行的第三次会谈中以钱学森被阻挠回国为铁证，戳穿了约翰逊所说的“美国绝对没有限制中国留学生回国”的谎言，郑重指出：“据美国出席日内瓦会议代表团1954年5月29日声明，截至1954年4月30日，持有中国学生护照的留美学生共计5242人。因为从1951年6月到1955年4月1日美国政府禁止中国留学生自由回国，违者课以50000美元罚金和5年监禁，许多想回国的留学生都不敢申请。今年6月15日，钱学森仍然来信给我全国人民代表大会常务委员会副委员长陈叔通先生，要求我政府帮助他回国。”他强烈要求美国政府立即恢复钱学森返回祖国的权利。
在确凿的事实面前，约翰逊再也无法辩解，美国政府不得不准许钱学森等人回国。
中国政府与美国政府就钱学森回国所进行的斗争告一段落后，双方就被遣返侨民问题反复进行了多次会谈。经过多方努力，终于达成了这样一个两国大使声明的协议：“中华人民共和国承认在中华人民共和国的美国人愿意返回美利坚合众国者享有返回本国的权利，美利坚合众国承认在美利坚合众国的中国人愿意返回中华人民共和国者享有返回本国的权利，并宣布已经采取、且将继续采取适当措施，使他们能够尽速行使其返回的权利。中华人民共和国和美利坚合众国分别委托印度和英国政府协助中华人民共和国和美利坚合众国平民返回本国。”
这是中美大使级会谈中达成的唯一一份正式协议。
中美侨民问题达成协议之后，中美大使级会谈便进入讨论问题的第二阶段。但美国在第二阶段的会谈中，采取了极为敷衍的态度，在第一个阶段已经解决了的问题上继续纠缠，以致会谈拖泥带水，几乎寸步难行。
1955年9月20日，中美会谈再次开始。约翰逊绕开实质性的问题，首先提出要讨论在朝鲜战争中失踪的美国士兵的问题。
王炳南拒绝讨论这个问题。他说：“关于在朝鲜军事人员问题，应该让板门店停战委员会去谈，我们没有必要谈这个问题。”
于是，约翰逊又提出第二个问题：“在台湾问题上，中美双方应保证不诉诸武力。”
王炳南根据周恩来总理的指示，严正地回答约翰逊：“美国侵占台湾已经构成了国际争端，台湾海峡的紧张局势已影响到远东和东南亚的和平、稳定与安全。造成这种局势的，首先是美国在台湾的军事存在，它是针对中华人民共和国的。美国应该放弃对我国使用武力，从台湾和台湾海峡撤出它的一切武装力量。”接着，他又继续说：“台湾在历史上、法律上和事实上都是中国不可分割的领土，中国人民愿意用什么方式解放台湾，这是中国的内政，美国无权干涉，更无权要求我们不使用武力。”双方各执一辞，谈判再次陷入僵局。
为了争取主动，10月27日，我方就美国提出的“双方保证不诉诸武力”的问题提出了一个协议草案：“中华人民共和国和美利坚合众国同意，它们应该用和平方法解决它们两国之间的争端而不诉诸武力；为了实现它们的共同愿望，中华人民共和国和美利坚合众国决定举行外长会议，协商解决和缓和消除台湾地区紧张局势的问题。”
约翰逊拒绝签署这个协议草案。近半个月后，美国又提出了他们起草的对案，称“……一般来说，美利坚合众国放弃使用武力……一般来说，并特别对于台湾地区来说，除了单独和集体的防御外，中华人民共和国放弃使用武力。”
我方拒绝了美国的这一协议草案。指出，美国要求在台湾地区拥有“单独和集体的防御”权利，目的是要中国政府承认美国霸占台湾的行为合法化，让我们放弃解放台湾的权利。