不管怎样，第二次入缅作战开始筹备。1942年8月4日，史迪威飞到印度，开始对驻印中国军队的训练。史迪威在这里成立了“中国驻印军总指挥部”，史迪威任总指挥，罗卓英任副总指挥。但不久，史迪威就迫使蒋介石召回了罗卓英，这样，史迪威可以完全自由训练和指挥这支部队了。此后，史迪威开始全力训练这支部队，从1942年9月起，中国军队不断被送往印度兰伽训练营，一边接受美式训练，一边学习使用美国装备。到1942年10月底，兰伽训练营内的新编第一军就成立起来，下辖新编第二十二师和新编第三十八师，由郑洞国任中将军长。不久，第三十师也被空运到这里。1943年2月17日，蒋介石任命陈诚为远征军司令长官，3月12日，史迪威和陈诚一起来到昆明，开始准备第二次缅甸战役。此时，至1944年1月，兰伽训练营内就已经有了3万中国军队，这是一支完全由美式武器装备起来的部队。到1944年夏，另外两个师也来到这里，由此，中国驻印军扩编为新编第一军和第六军。另外，蒋介石也算是接受了史迪威的军事改组建议，将整训的部队扩大为11个军，共计31个师。
1943年10月，中国远征军和驻印美军、英军采取了联合行动，开始了缅北作战。此次，中国远征军共计17万人，从1943年10月开始至1945年3月，历时一年零五个月的艰苦作战，最终消灭日军4.8万人，中国远征军自身伤亡6.7万人，但总算收复了缅北50多座城市。这一次中国远征军的行动也得到了国际社会的好评，美国《纽约时报》说：“入缅作战，开创了大陆反攻的新阶段”（《纽约时报》1944年5月16日）；1944年11月号美国《皇冠》杂志说：“中国军队是世界上最优秀的军队”，在缅北作战中，“表现出中国军队忍受无限艰难的伟大，世界上任何军队都望尘莫及”；与中国远征军一起作战的美军布朗上校说：“中国人是我看到的最勇敢的军队，我必须向他们脱帽致敬”。
但缅北胜利并不意味着蒋、史矛盾消除，宋美龄1943年访美期间，在争取美国援助的同时，也在极力想办法把史迪威从中国召回。史迪威与蒋介石的矛盾实际上不但没有因为缅甸作战的顺利进展而弥合，反而越来越不可调和。在1943年初，史迪威给马歇尔写信告诉他：“蒋介石变化无常，很难对付，无论我们给他什么，他总会不断提高要价。除非我们用更加严厉的口气对他说话，否则，他的这种态度还会继续下去。我们为他做的每一件事，都应当从他那讨回一个保证。”马歇尔把这封信转给了罗斯福。3月8日，罗斯福回信给马歇尔，他在信中不再支持史迪威，而是责备了这个刺头，他从美国对华政策的角度解释了蒋介石与史迪威孰重孰轻：“我的第一印象就是，史迪威在与蒋委员长打交道时采取了完全错误的方式。委员长认为，必须保持他的至高无上的权威。他既是行政首脑，又是最高统帅，我们不能用严厉的口气同这样的人说话，或是像对待摩洛哥苏丹那样去逼迫他作出许诺。——我相信史迪威和委员长的关系会得到改善，同时我希望不要妨碍陈纳德以适当的方式与中国人讨论空中作战问题，他们作为我们在那里的代表，应当更清楚地意识到这一点。他们应当成为我们在中国的最好的外交使节，这与他们承担的军事任务是完全一致的。”
不过，没过多久，罗斯福的态度又转向了谴责蒋介石。这是因为在1944年4月，日本在太平洋战争中节节失利，急需要打通中国与东南亚的陆路通道，于是发动了豫湘桂战役，结果国民党部队再次一溃千里，罗斯福因此对蒋介石颇为不满，他对孔祥熙说：“我正试图找出中国军队在何处，为什么他们不同日军打仗？看来日军想把他们赶到哪里就能把他们赶到哪里。”史迪威也对蒋介石总是暗中干涉中国远征军的军事行动感到恼火，他也把这些统统告诉了马歇尔。这些最终迫使罗斯福在1944年7月6日向蒋介石发出了一封措词十分强硬的信，要求蒋介石不要干涉缅北作战，应该让史迪威完全指挥。同年9月18日，罗斯福再次给蒋介石发去了一封信，同样语气强硬，再次强调应该由史迪威指挥作战。当时，史迪威就像个龌龊的小子，他在蒋介石和赫尔利、白崇禧、何应钦、宋子文等正在黄山公馆开会时把这封电报的中文译稿交给了蒋介石，事后，他得意洋洋地在日记中写道：“把这束辣椒交给了‘花生米’，然后坐到椅子上出了口长气。这下正好打中这个小鸡奸者的太阳穴，把他刺穿了。”蒋介石看完信后，面无表情地说道：“我知道了。”随后就宣布散会。蒋介石在当天的日记里写下了“实为余平生最大之耻辱也。”
但是罗斯福和史迪威都低估了蒋介石，史迪威幼稚地以为他能依靠罗斯福的支持压迫蒋介石，罗斯福也错误地认为可以向蒋介石发号施令，他们都错了，蒋介石第二天就约见了美国特使赫尔利，告诉他，他已经命令宋子文正式请求罗斯福撤换史迪威。9月20日，蒋介石再次约见赫尔利，对他说：“中国军民恐不能长此忍受史迪威等等侮辱，此殊为中美两国合作之障碍物也。”（《蒋总统秘录》，卷十三，第157页，1976年台北版）24日，蒋介石第三次约见赫尔利，严肃地告诉他，中国绝不允许赤化，中国主权与蒋介石个人的尊严也决不允许损害，中美之间的合作必须是友好平等的，不能存在强制。26日，蒋介石又电告宋美龄，让她转告罗斯福总统：“余对罗（指史迪威）平时主张与意见无不尊重，但关于中国之三民主义与中国之主权，以及中国国家与个人之人格，如果有损失，则余必不惜任何牺牲，决不能因循迁就，否则即使联盟国作战完全胜利，则虽胜尤败。余绝不能使中国赤化与主权动摇，并望友邦间能相互尊重人格也。——但无论美国如何变化，余自信抗战根据地与军队，决不致崩溃。吾人如再恢复独立抗战之态势，则对内政与军事情势，决不致比现在更坏。”至此，蒋介石作出了一连串的强硬反应，而且，他显示出这次绝不会再有任何妥协和退让。
蒋介石的强硬终于让罗斯福醒悟，他看到了激怒蒋介石的严重性，于是10月5日，他致信蒋介石，告诉他，他将解除史迪威的参谋长和负责租借法案管理者的职务，但希望能让史迪威继续担任中国远征军的指挥官职务。果然，蒋介石丝毫不让步，他一口拒绝了罗斯福的建议，他告诉罗斯福，他不仅对史迪威无信心，而且对他的军事指挥能力也无信心，他和史迪威将军在缅甸作战一事上从来就不一致。另一方面，赫尔利也支持蒋介石，他写信告诉罗斯福，如果放弃史迪威，可以再派一个美国人指挥中国军队，如果放弃蒋介石，那么将会丢掉中国。至此，史迪威的支持者马歇尔也无能为力了，蒋、史二人的矛盾已经无法调和，失去一个史迪威无所谓，而失去整个中国是任何人都承担不起这个责任的。罗斯福向马歇尔下令召回史迪威，由萨尔坦接替史迪威指挥缅甸战役，由魏德迈接替史迪威的参谋长一职。同时，罗斯福也把缅甸战区从中国战区中分离出来，重新划分为中国战区和缅印战区。
史迪威的反应仍是一如既往地在日记中咒骂，他给妻子的信中这样写道：“罗斯福显然抛弃了我。如果这个老傻瓜在这上面让了步，‘花生米’从现在起就会失去控制，显然他已经这样做了。彻底的失败。我的良心是清白的。我贯彻了给我的命令。我没有什么可遗憾的，除了看着美国受到欺骗。”
最终，还是蒋介石赢了，但似乎赢得这样苦涩。