美国对华政策的基本目标是使中国成为其附庸，但中国的现实却与美国的主观愿望相抵触，中国社会当时存在着两种相互竞争的政治力量——共产党和国民党，在政治主张方面是完全对立的。从表面上看，国民党控制了全国政权，兵强马壮。但在实质上，它是一个外表仍然光滑，而里面却是烂透了的苹果。一旦真正打起来，国民党很难有取胜的希望。共产党表面上力量弱得多，但它清正廉明，主张独立自主，建立一个统一、民主、进步的新中国，深得民心。在国共两党的斗争中，美国始终把国民党看作依靠的对象，认为它代表了中国前途，因此，从潜意识里，美国的对华政策就是倾向国民党的。这样，一方面，美国领导人在公开和私下里都要求蒋介石和谈并施加了种种压力；另一方面，又害怕削弱国民党，不断给予大量的经济和军事援助。美国政治的这种矛盾性，根本不可能束缚住国民党蒋介石的行动，蒋介石毫不犹豫地接受美国的大炮，赶走了美国的鸽子，马歇尔使华徒劳一场。
1945年12月20日，寒风凛冽，雨雾濛濛。美国陆军航空兵的巨型运输机，钻出浓雾低垂的云层，在上海的上空盘旋了一圈，然后笨重地降落在弹坑累累的虹桥机场上。马歇尔先走下飞机，乘坐一辆美制军用指挥车，在艾尔伯特·C·魏德迈和美国驻重庆大使馆代办沃尔特·罗伯逊的陪伴下，驶往上海最豪华的国泰饭店。举目望去，只见沿途的街道，破破烂烂，一片萧条，那些靠卖苦力的中国人，一个个衣着单薄，在寒风中瑟瑟发抖。
国泰饭店则完全是另外一番景象。战前繁华的日子里，中国阔佬贵妇，香港洋行老板，军火商人和军阀，常常云集这家饭店，奢侈腐化，寻欢作乐。就是在战争时期，凡失意的中国政客、军阀、日本将军、欧洲巨商，手挽着白俄罗斯女人或是身段苗条的亚洲妓女，进进出出，进行着各种公开或秘密的交易。
如今，身为中国战区美军司令的魏德迈将军，征用了国泰饭店的两套房间，他把马歇尔安排在一个套间里。晚上，马歇尔找魏德迈和罗伯逊了解他们所掌握到的中国情况，并且要求两人协助他的工作。
英国著名传记作家伦纳德·莫斯利在《马歇尔：我们时代的英雄》一书中，大肆渲染和夸张了魏德迈将军与马歇尔之间的意见分歧。他把魏德迈说得小心谨慎，对马歇尔忠心耿耿，而马歇尔却一反常态，变得有些固执和傲慢，并因此而使两位将军之间的关系变得非常紧张起来，以至于最后反目为仇。当20世纪50年代麦卡锡主义在美国疯狂盛行时，魏德迈投井下石，在马歇尔的背上狠狠地捅了一刀子，认为马歇尔对国民党丢掉中国大陆，让共产党获得大陆的控制权要担负责任。在这里，他显然对魏德迈和马歇尔之间的分歧夸大其词。
而魏德迈将军在其所著的《魏德迈报告》一书中，也对马歇尔使命的失败提出了最强烈的谴责，它宣称马歇尔在第一天晚上就走错了一步，他是接受了一个不可完成的任务。他说马歇尔可能是因为战争的重担而感到疲倦，也可能是因旅途感到疲倦，他拒绝接受魏德迈所讲的国共双方不可能联合的意见。魏德迈认为马歇尔由于其战时的掌权地位和显赫声威，肯定能完成使命，并且厉声要求魏德迈协助他完成工作。
沃尔特·罗伯逊的记录有所不同，他当晚也在座。他说马歇尔认真听取了他和魏德迈的汇报，魏德迈讲的是军事方面的，他分析的是政治方面的形势，他和魏德迈都认为马歇尔的使命难以完成。看来，魏德迈和罗伯逊都对马歇尔的调停泼了一瓢冷水。但据罗伯逊的说法，马歇尔的性格和态度并没有什么傲慢和粗野的地方，他还感谢了两人的提醒和帮助。这样的说法，是比较符合马歇尔的办事惯例的，魏德迈是他的老相识老部下，他正是需要魏德迈提供帮助和咨询的时候，他没有理由也没有必要对魏德迈耍态度。
12月21日，马歇尔飞往南京，当晚，同蒋介石举行了会谈。马歇尔深知国民党政府和军队的腐败，也知道蒋委员长不会轻易放弃手中的权力，所以他在私下或公开的场合向蒋介石和国民党要员不断申明美国关于政治解决国共争端的政策，施加了一些必要的压力。在他调停的第一阶段，在有关国共双方停战、整编军队、研究各党各派代表参加的国民大会、组织联合政府等问题上，他都采取了比较客观、公正的立场。
解决国共分歧、实行和平统一的关键，是国民党能不能放弃一党独裁和实行政治改革。为了迫使蒋介石让步，马歇尔来华以后，美国采取了一些实际行动：首先，停止运送国民党的军队至华北。马歇尔来华之前，美国正在准备海运，帮助蒋介石把部队运进华北，以便解除该地区日本人的武装，并且附带接管该地区的铁路。其次，暂停给国民党大规模的贷款。马歇尔告诉蒋介石，只有在政治解决中国问题取得成就的情况下，美国才能保持对中国的军事、经济援助。1945年底，国民党向美国进出口银行要求贷款，根据马歇尔的意见，美国政府决定暂停贷款。1946年3、4月间，马歇尔回国述职，美国政府鉴于政治解决国共两党分歧取得了不少进展，决定给予国民党政府5亿美元的贷款。但恰在这时，蒋介石发表了一通炫耀武力的演说，美国便又停止了这笔贷款。最后，协助国共两党完成了停战协议、政协5项协议、东北停战协议和整军协议4大协议的签署，在签署停战协议的前夜，国民党要人民解放军退出赤峰、多伦两战略要地，谈判陷入僵局。马歇尔亲自前去劝说蒋介石，使其放弃了不正当的要求，使得停战协定得以如期签署。
中国共产党人抱着友好忠诚的态度来对待马歇尔的调停。在重庆同中共代表周恩来的会谈中，马歇尔感到非常愉快。周恩来通情达理，直截了当。在很多方面，马歇尔同周恩来有着相同或近似的看法。他喜欢周恩来的处事方式，因此，在许多问题上两人很快取得了共识。
好像一切事情都进行得非常顺利。马歇尔的老同事斯达克海军上将，从华盛顿写来一封短信，祝他鸿运高照。蒋介石夫人宋美龄，是世界上几个最热烈崇拜马歇尔的贵夫人之一，她对马歇尔殷勤备至，又是送糖果、礼品，又是劝他去户外走走，呼吸新鲜空气，以保持身体健康。
魏德迈的悲观预言似乎也落了空，他对马歇尔的成功表示衷心祝贺。马歇尔则向魏德迈许诺，一旦他的调停成功，完成任务，就推荐魏德迈担任新的驻华大使，这一职务正是魏德迈向往已久的。
但事实上，马歇尔并没有陶醉，他看到国民党中那些极端反共的顽固派，他们生怕国共达成真正的合作协议。一旦对国民政府实行政治改革，开放党禁，就会捆住他们贪污受贿的手脚，丢掉乌纱帽。所以，他们千方百计要阻止建立一个统一、民主的新中国。他们使用特务封锁一切批评政府的观点，对青年学生和各界民主人士大打出手。为了同国共两党领袖会谈寻求妥协，马歇尔不停地往来于华北的共产党和南京之间，很快筋疲力尽。为了方便和省事，他曾要周恩来前来南京，但国民党对于欢迎周恩来的群众集会怒不可遏。这使得他不敢再邀周恩来到南京会谈，国民党的这些行动，加深了马歇尔的信念：国民政府不希望有真正的停火。而罗伯逊在1946年1月向华盛顿所写的报告，也从反面证实了这一点：“共产党在任何重要地区都没有发动进攻。”
正因为如此，在停火协议签字仪式上，马歇尔在致词中最后意味深长地警告说：“我认为这个协议代表了中国伟大的希望。我只有希望这清白的一章，不会给一小群不要协议的顽固的人们所玷污，他们为了自私的目的，想压倒中国人民对和平与繁荣的希望。”福雷斯特·C·波格：《乔治·C·马歇尔：政治家：1945～1959》，纽约，1987年，第95页。
三、调停失败
1946年3月11日，马歇尔启程回国述职。《时代》杂志充分报道了马歇尔的回国情况，称赞他的工作是“第二次世界大战结束以来，一位美国公民所承担的最重要使命”，并把马歇尔的肖像当作新一期杂志的封面。
马歇尔在华盛顿全力以赴，争取对国民党政府的经济援助。他逐一拜访有关部门，筹措款项，出席参众两院的有关委员会，召开记者招待会。
但中国的形势发展令他大为失望。趁马歇尔回国之机，蒋介石拒绝履行有关协议，拖延派遣由美国、共产党和国民党三方组成的执行小组进入东北，蒋介石是想利用机会在东北方面大规模地推进，以尽可能多地占领一些地盘。
马歇尔要返回中国，宋美龄邀请马歇尔夫人一起来中国旅行和观光，4月18日，他们夫妇俩从华盛顿飞到北平，然后去重庆。但在重庆只呆了几天时间，因为从5月起，政府及各国外交使团开始迁往南京。蒋介石为他们安排了一个大院子，除了他们的住宅外，还有使团工作人员住宅以及办公场所，二楼有一间工作人员的大会议室。
南京的夏天，炎热且潮湿，马歇尔担心会影响凯瑟琳的健康。从7月起，凯瑟琳就被安排到离南京有250英里之遥的牯岭避暑地作客，住在一所宽大舒适的别墅里，有仆人、游泳池，马歇尔、蒋介石也常上山消遣。
马歇尔所面对的中国政治形势，却完全是另一番景象，他前几个月所作的努力，似乎都有可能化为泡影的危险，一种沮丧与无可奈何的心情油然而生。
当马歇尔在华盛顿试图为国民政府搞到贷款时，国民党的高级官员不断发表与调停不协调的好战言论，使马歇尔感到烦恼。当他回到中国以后，发现国民党极右势力正大造舆论，挑拨离间，想以此来损害马歇尔的形象，破坏停战。1946年6月11日，马歇尔写信给新任陆军参谋长艾森豪威尔揭露了国民党极右势力的拙劣表演：