德国问题，是马歇尔关注的焦点，在这里美、苏两家直接竞争和对抗。根据战时和紧接战后的一系列会议，德国被分割成美、英、法、苏4个占领区，4国组成盟国管理委员会，对各占领区的工作实行统制和监督，委员会采取了全体一致的原则办事。德国的首都柏林，从位置上看，处于苏占区内。为了分享胜利的成果和喜悦，也将其一分为四，由4国分别占领，4个区的指挥官组成军事管制总部共同管理。这样，西方3国的柏林占区，就成了一块在苏占区内的飞地。西方国家的人员进出柏林，需要假道苏占区。这个问题的处理和解决，似乎比较方便。战争期间，美国政府似乎觉得这一问题日后要由军事人员解决。战后，西方国家与前苏联的指挥官大体上达成了一项口头协议：西方人员可以使用一条铁路线、一条公路线和两条空中走廊进入柏林，但协议也同时规定前苏联有权监督这些交通线。根据西方的说法，1945年底，前苏联又同意加设一条空中走廊，这3条空中走廊的使用，不必先通知前苏联方面。M·贝科威茨等：《美国对外政策的政治背景》，商务印书馆，1979年，第48页。
战争结束以后到1947年3～4月的莫斯科外长会议，双方在这里相安无事。莫斯科外长会议以失败而告终，加深了双方的不信任感，特别是伦敦外长会议以后，双方的关系迅速紧张起来。
根据莫斯科外长会议上达成的协议，4个占领国代表从5月起在维也纳开会商讨对奥和约条款，但因为在赔款数目和范围方面双方意见很大，无法达成妥协，结果，10月11日，没有任何结果就宣告休会。这为伦敦外长会议投下了一个阴影。
在伦敦外长会议正式举行前，11月6日至22日，先行举行了副外长级的谈判，目的是检查和解决莫斯科外长会议交下来的分歧，但也没有取得进展。
1947年11月21日，马歇尔在不抱任何希望的前提下，飞往伦敦，准备采取强硬态度对付前苏联。如果前苏联不妥协，马歇尔打算和西方盟国联手，撇开前苏联，采取行动。在赴伦敦前，他作了一次全国电台联播的重要演说，已经隐约地表达了这种思想。他说：“欧洲各独立国家的一致行动，给世界其他国家带来稳定，也是保证我们美国安全的基本因素。我们正是为此而两次动员了我们的全部力量，以维护大陆共同体的完整，使它免遭一国统治……我们也看到自己的实力，看到事实上许多国家十分需要我们的帮助和我们的友谊，我们可以不顾那些企图分散我们的注意力的恐吓和动乱，而坚定地遵照我们的传统去行事。”这从某种程度上已经预示着伦敦会议不可能取得任何成果。
莫斯科会议上已经提出的问题，现在又老调重弹，德国对前苏联赔款多少？怎样支付？未来的德国建立成一个什么样的政权？是中央集权制还是地方分权的联邦形式？是先解决德国政治上统一的问题，还是先在经济上统一？美国和前苏联在每个问题上都互相对立和指责。
马歇尔在赴伦敦途中就告诉了他的随行人员，如果发现谈判没有基础就中止会议。马歇尔的不妥协态度，得到了杜鲁门总统的大力支持。在会议毫无进展的情况下，马歇尔提出休会。此时，英、美占领区在经济上已经统一，并且企图把法国的占领区扯到一起。
12月17日，马歇尔向贝文辞行。贝文主动向马歇尔谈起：为了应付世界各地特别是前苏联所控制的东欧集团的挑战，必须搞一个“西方民主体系”，这个体系应该包括美、英、法、意以及英属自治领。这时贝文所想到的还不是一个正式的联盟，只是“一个以实力、财力和果断行动为后盾的相互之间的默契”，体现一种“西方精神联盟”。但正是在这样一种设想的基础上，才有了后来的北大西洋公约组织。
针对英、美不执行波茨坦会议上同意的德国赔偿100亿美元的协议，西方3个占领区的经济一体化以及对奥和约上的不妥协态度，从1948年初起，前苏联方面开始在西方国家进入柏林问题上采取一些限制性措施。1月，前苏联检查人员登上美国军用列车，检查乘客的证件。作为回敬，美国在列车上配备起武装警卫人员，不让前苏联人登车检查，火车常常因前苏联检查人员要检查和美国护车人员不让检查而发生冲突，误点数小时，这种情况一直持续到3月底。
伦敦4国外长会议后，西方国家在美国的策划下，加速了西方三国对德占领区的统一步伐，整个西欧一体化的进程也在起步。1948年2月23日至3月6日，美、英、法3国在伦敦举行大使级会谈，同时有荷、比、卢3国的代表参加。会议研究在西方3国占领区实行货币改革，使用统一货币，并且让其在柏林流通，同意加紧在西方占领区建立德国的政府。美国代表还坚持，停止从西方占领区运出物资给前苏联。把西方占领区拆卸的工厂和其他物资分一部分给前苏联作为德国赔偿是波茨坦协议明文规定了的。英国外交大臣贝文，觉得这样公开的违反协定，会加剧紧张关系。法国政府对这些做法也持有重大的保留意见，他们担心前苏联会在柏林采取措施，将西方3国赶出来，那样，也许真的会爆发一场新的欧洲战争。法国代表对美国代表说得很坦率：假如前苏联在柏林采取行动，美国怎么办？如果战争到来，“从长远来说，胜利当然属于你们，但在胜利到来之前我们会有什么遭遇呢？”美国人对英、法连哄带吓，英、法接受了美国建议。
3月20日，盟国管制委员会开会，美、英、法确定在西方占领区发行统一货币，前苏联代表团退出会场。3月30日，前苏联发布关于柏林运输的新规定，从4月1日起实行，其内容如下：
第一，凡乘火车或汽车通过前苏联占领区的美国人员，必须出示能证明他本人身份和他与美国驻德军政公署关系的证件。
第二，从柏林运往西方占领区的军用物资，必须向前苏联检查站办理出境手续，由前苏方给予许可证，进入柏林的民用货运凭携带证件办理入境手续。
第三，所有的行李、包裹必须在前苏联检查站接受检查，但乘坐载客火车或载客汽车的美国人员的个人行李除外。
4月1日，前苏联又进一步宣布，未经前苏联指挥官的许可，不准任何货运列车驶离柏林。6月，前苏联又宣布切断柏林与西方之间的一切陆上、水上交通联系，切断对柏林的大部分供电。1947年以来的紧张关系，终于导致了一次柏林危机的爆发。
美国到处寻找文件，想证明前苏联的作法违反了协议，但这是徒劳的。因为关于西方进出柏林的交通问题，只有过口头协商，而且在口头协商中，还确定了前苏联有权进行监督。
马歇尔面前有三种选择：第一，在有关德国赔款、经济改革、政治统一等问题上同前苏联妥协，以换取前苏联在柏林交通运输方面的让步；第二，西方军队撤出柏林，让柏林全部归前苏联控制；第三，开辟空中走廊，向柏林西占区的200多万人口提供食品、燃料、原料等。
这时的美国，对共产主义怀有一种普遍的恐惧情绪，任何对信仰共产主义的国家或政党实施封锁、对抗，都会受到欢迎。马歇尔在杜鲁门总统的支持下，采取了十分强硬的态度。美国动用了在欧洲的所有空中力量，对柏林实行空运，经与参谋长联席会议和杜鲁门总统商定，又把两个中队的B-29轰炸机开往德国，另两个中队的B-29轰炸机进驻英国，同时给英、法两国政府打气，要它们采取与美国一致的立场。