抗战胜利后，蒋介石即决定开始整编全国军队。这是出自军政部长陈诚的建议，白崇禧期期以为不可，他对蒋介石说：回忆一九二八年七月在北平小汤山举行的裁兵善后会议，他曾坚决反对裁兵，并提出了以殖边替代裁兵的办法。如果当时统帅部考虑他的意见，则一九二九年以后的连年内战可以避免，以后也不致引起日寇侵略，一为之甚，其可再乎？！
白崇禧指出：“现在国共进行谈判，但全面和平未可预期。我们总不能一面打仗，一面裁兵。盖编余官兵若无妥当安置，即将酿成后患。此不能不予以注意。”但蒋介石那时深受陈诚所左右，一九四五年十一月十一日，在重庆召开“复员整军会议”，一九四六年二月十六日，又在南京召集第二次会议，决定第一期“复员”军官十五万人，士兵一百万人。并将五十八个军整编为师。这一切与国共之间整编方案毫无关系，完全是国民党方面的单行道。
编余军官怎样处理呢？在全国各地一共设置了二十九个军官总队，另外还有三个分队。这些军官总队一至二十归中央训练团负责，其余的由所在省训团负责。军官总队收容的军官认为他们在抗战八年中，没有功劳也有苦劳，怎么可以一旦抗战胜利，即使他们投闲置散？！想念及此，愤激填膺，因而索性离队走单帮，砸戏院，有的甚至到孙中山陵墓哭诉，弄得举国骚然，影响社会秩序。
一九四五年十二月二十日，美国总统杜鲁门派美军参谋总长马歇尔为特使，来中国调处国共关系。当时，由马歇尔和国民党代表张治中、共产党代表周恩来组成最高军事三人小组会议，到一九四六年二月二十五日，签订了《关于军队整编及统编中共部队为国军之基本方案》。依据这个方案，国共军队的比率，定为五比一，即在六十个师中十一个师应由共产党领导。后因国共战争范围扩大，统编方案卒未实施。