阎锡山在1929年一系列的反蒋活动中总是隐蔽于幕后，一方面是出于政略的考虑，一方面则缘于军事实力不足。北伐战争期间，阎对奉张两次用兵，深感晋绥军战力的不足和数量的匮缺。以晋绥军现有力量，莫说对蒋介石，即使在反蒋各派中也只能排在第三第四名上。而要问鼎中央权位，简直是痴人说梦。于是，在蒋介石大张挞伐编遣地方实力派的军队，各地方实力派籍此掀起武装反蒋的政潮风浪中，阎锡山自然采取了首鼠两端的态度，既不为反蒋派火中取栗，更不为蒋介石出兵卖力。而是抓紧时机，加强省政建设，扩充军事实力。从1929年夏起，阎锡山利用蒋介石委派其主持西北军事善后的机会，表面遵照编遣精神，拥护中央裁兵方案，通电“编遣请自三集团起”，实则以主持2、3两集团军编遣善后的名义，向中央大行索要，对晋绥军队进行了第四次扩编；并以维持治安，巩固西北边防的名义，指令所部加强军事训练，增强部队战力。到中原大战开始，阎锡山已将第3编遣区各部编成了步骑炮工辎兵种齐全，装备训练完备的一支劲旅。经过第四次扩军，晋绥军的编制如下：
（一）步兵，10个军又4个保安纵队：
第一军军长孙楚
辖一、二、三师，师长分别为孟宪吉、陶振武、马延守
第二军军长杨效欧
辖四、五、六师，师长分别为周思诚、徐岱毓、李乐滨
第三军军长王靖国
辖七、八、九师，师长分别为田树梅、杜坤、田绣章
第四军军长李生达
辖十、十一、十二师，师长分别为霍原璧、段树华、陈长捷
第五军军长李服膺
辖十三、十四、十五师，师长分别为朵珍、李俊功、贾学明
第六军军长杨耀芳
辖十六、十七、十八师，师长分别为方克猷、赵廷英、温玉如
第七军军长关福安
辖十九、二十、二十一师，师长分别为郭宗汾、鲁英麟、刘添贵
第八军军长张会诏
辖二十二、二十三、二十四师，师长分别为杜春沂、周原健、于镇河
第九军军长冯鹏翥
辖二十五、二十六、二十七师，师长分别为楚溪春、高鸿文、黄光华
第十军军长傅作义
辖二十八、二十九、三十师，师长分别为苗玉田、叶启杰、白濡青
第一保安纵队司令丰玉玺
辖一、二、三旅，旅长分别为李廷秀、王辅、刘召棠；
第二保安纵队司令杨澄源
辖四、五、六旅，旅长分别为刘光斗、李嘉林、梁鉴堂；
第三保安纵队司令周士廉
辖七、八、九旅，旅长分别为王弼、刘逢吉、马良；
第四保安纵队司令秦绍观
辖十、十一、十二旅，旅长分别为刘濯清、樊赓灿、黄士桐。
（二）骑兵，4个师，司令赵承绶；
（三）炮兵，7个旅，司令周玳；
（四）其他兵种，工兵10个营，辎重兵10个营，各设专职司令。
全军约24万余人。
在蒋介石咄咄逼人的压力下，阎锡山由自保而不保，由拥蒋而反蒋，在经济方面也有一个重要原因。就阎锡山的禀赋，实质上更善于经济行政。他十分注重山西的经济建设。在省政建设中，拥有中央财力的蒋介石未予相应支援，反而要把平津税收收回中央。以贫瘠的山西一省养兵20余万，还要替中央张罗华北、西北军事善后，财力是远远不足的。阎锡山自认为在北伐、编遣中为中央出了大力，蒋介石在经济上不图以回报，还要釜底抽薪，无异于卡住山西向外发展的脖子，阎锡山自然不肯善罢。据周玳回忆，“阎自从兼任平津卫戍总司令后，即将平津两市税款留用。1929年11月，宋子文到北平，要划分国家税与地方税，阎答应了这样办，就把平津税收机关的晋方人员全部撤出，同时向宋提出平津卫戍部队的饷项由财政部拨发。宋子文也答应了照办，可是实行了一个月就停止拨付了。阎至此始知受骗。他便借口北伐时期山西省银行曾垫付三千万元作军费，申请发行省公债三千万元以资弥补，但蒋不准发行。阎为这两件事对蒋恨极了。有一天他怒气冲冲地把桌子一拍说：‘我很后悔北伐时垫此巨款，这件事咱们做错了。现在蒋要用经济手段把咱们困死。咱们没有错，他不敢用兵来打咱们，只有在经济上来困死咱们。’阎是最注重在经济上打算盘的人，这两件事实，正是他后来反蒋的重要因素。”
在1929年此起彼伏的反蒋浪潮中，有几次机会只要阎锡山登高一呼，反蒋军事态势马上就会大为改观，极有可能直捣南京，一举推翻蒋介石的统治。以阎锡山的精明，绝不会看不到这一点，但他屡屡放弃，原因何在？在当时可以在阎锡山之外唯一阅看阎的电务处截获的各地往来电文内容的交际处暨行营办公处处长梁汝舟有段回忆，可作为这一疑问的答案。梁提到，1929年秋，蒋介石消灭异己愈急，各方纷纷派代表入晋劝阎领导国人共同倒蒋，“而阎则一再以时机尚不成熟为词，往后推延。一般人不明他的真意，认为他是坐失良机，尤其是冯玉祥，大骂大闹，不可终日。其实，他所谓不成熟的含意，不是指倒蒋，而是指蒋倒后的善后问题。他估计他掌握二三两集团军，再加上总数号为二十万人的杂牌军队，就可以把蒋打到长江以南。而东北军一再表示愿意参加反蒋，蒋之内部亦有人来接头，所以他认为倒蒋问题不大。但蒋倒之后，如果处理不当，前途真不堪设想。阎夜以继日地研究这些问题，直到冬季，仍无妥善办法。就在这时，唐生智迫不及待地领导蒋方一部分将领通电反蒋，迫其下野。当时反蒋重心，本在阎、冯，谁也没有想到蒋方将领先行发动。因此，蒋系内部颇行慌乱，何应钦首先沉着观变，态度不明。所以，各方认为只要阎、冯通电响应，蒋介石只有下野一途了。蒋本人亦认为事已至此，进退只好取决于阎。乃致电请教，大意谓：‘弟德薄能鲜，致有今日，不知吾兄将何以教我。’等语。唐生智通电之前，并未向阎取联系。阎如何肯助唐倒蒋？所以立即复电，义正辞严地以戡乱自任。蒋得电后，精神大振，马上电阎部署讨伐。阎并亲率大军，进驻郑州。于是蒋方内部情况大变，何应钦亦积极主张用兵。而唐生智方面，则逐渐解体。”
作为事实上的反蒋派领袖，阎锡山的顾虑是有必要的。以当时情况而论，阎锡山在军事实力上不如冯玉祥；在政治号召力上，则莫说以山西一省，就是连华北、西北加在一起也难与政治领袖汪精卫相匹敌。但冯玉祥没钱、没影响力，而改组派没有军队，要领导反蒋，必须由阎锡山出钱出兵，作为中坚。然而一旦反蒋军事成功，在财力、兵力上贡献最大的阎锡山能否执掌最高权力，实是一个未知数。因为反蒋军事刚刚发动，唐生智即违背协议，打出改组派“护党救国军”旗号，视阎锡山的实力于无物，给阎相当大的刺激，故而有了反蒋却又讨唐的举措。阎锡山在反蒋活动中奉行幕后策划支持，表面折冲调和的策略，以时间换取蒋中央和反蒋各派实力的损耗，以待坐收渔利，最终一举收拾残局。故阎锡山在表面上一直坚持“拥护中央”的态度，实则与冯玉祥、张学良两大实力派始终保持密切联系，作为平衡与蒋介石关系的筹码。冯玉祥在反蒋问题上的态度与阎锡山迥然不同，其想法是“只有拉阎下水（指联合倒蒋），自己才有出路；把蒋打倒之后，回过头来收拾阎，那就容易得多了。”
从阎、冯两人在反蒋策略的运用上看，似乎只是倒蒋先后次序的差异，但其中蕴藏着双方不同的用心。就阎锡山而言，很希望在倒蒋后能够掌握最高权力，以推行自己的政治主张，实现其在经济、文化、行政等方面的抱负，故反蒋是以稳握中枢权柄为明确前提的。而冯玉祥个人的权力欲望也很强，他的缺点是没有一套成熟的治国方略，只是急于推翻蒋的独裁统治，以解脱自身当前所处的困境，其他事务均可从长计议。正是由于阎、冯双方在反蒋问题上的不同想法，给蒋介石造成了各个击破反蒋派的机会，可以说阎锡山是反过来帮了蒋介石的忙。阎锡山从纯利害角度处理与各方的关系，使反蒋各派在1929年掀起的军事反蒋浪潮功亏一篑，丧失了一次次迫蒋下台的宝贵机会，而且蒋中央的统治力量在反蒋势力日渐衰减的基础上越来越强，合纵反蒋的困难越来越大。阎锡山削弱各实力派、在反蒋力量中突出自身优势的计划是达到了，但能够一举倒蒋的机会却再难遇到，这恐怕是阎锡山在拒绝与李白、冯玉祥、唐生智共同发难反蒋时所料未及的。如此，阎锡山只能算是一个失败了的纵横家。蒋介石利用了阎锡山的观望和犹豫，顺利地施展了连横之计，对北伐成功后军威赫赫的2、4两集团军各个击破。从这个意义上讲，蒋氏“削藩策”的成功，无疑得益于阎裹脚不前。
但是阎锡山熟读经史，深谙“兔死狗烹”的道理。他一方面希望通过纵横捭阖，依附蒋介石，保持自己已经获取的政治地位；一方面又“认为历代统治者成功后，很少能保全他的同事和功臣。蒋平乱后，接近成功，自己的处境就更危险了。”而蒋氏独揽大权的做法和“削藩策”的步步紧逼，更加重了阎对蒋的疑忌。蒋果如帝王自居，继李宗仁、冯玉祥后者所何？于是，唐生智反蒋兵败之后，阎锡山遂打消了对蒋打与不打的犹豫，而坚定于与蒋一决雌雄了。这样，原先希望通过借助蒋介石之手削弱各个地方实力派的计划便不能继续下去。时间也不容许考虑反蒋成功之后的权力再分配问题。于是他紧锣密鼓地开始组织自己的反蒋联合阵线。
阎锡山认为，倒蒋必须首先否定南京政权的合法性。既要否定南京中央，就必须另立一个“合法”的中央以与之相抗衡。同时，将来善后也要在法统上和理论上有所持。而国民党内在党务方面能与蒋介石相抗衡的只有汪精卫为首的改组派了。蒋介石把持的国民党二届四中全会借口广州起义指责汪精卫一派的委员是“共产党的尾巴”，排斥了汪精卫、陈公博、顾孟余、甘乃光出席会议，汪派出席会议的其他委员即先后离开南京前往上海，创办杂志，联络党员，进行有组织的反蒋活动。约在1928年济南“五三”惨案之后不久，正式成立了“中国国民党改组同志会”，“改组派”由此而得名。在国民党第三次全国代表大会上，改组派主要领导人或被开除，或被警告，从此处在蒋介石的对立面，在1929年反蒋浪潮中，每一起军事反蒋活动都有改组派的幕后参与。改组派在政治上主张以一、二两次全国代表大会的精神恢复国民党“民众运动、组织纪律、反帝、党内民主”的“革命精神”，反对“恶化腐化势力、唤醒并组织社会上一切民主势力”，实现国家外交、军事、财政、政治各个方面的统一，打破割据局面，和主张全国裁军。由于这些政治主张适应当时民众和平、民主建国的心理，也非常适合资产阶级改良主义者的口胃，故改组派首领汪精卫虽然手无寸铁，在1929年反蒋浪潮中却一时成为各反蒋派“护党救国”的精神领袖。阎锡山清楚汪精卫在政治上的号召力强于自己，将汪绑在反蒋的战车上，不仅利于各反蒋实力派的大团结，而且一旦军事成功后也利于自己通过“党人治党，国人治国”的口号把握局势。
其时，蒋介石派人在上海法租界内杀害了改组派中央负责人王乐平和潘行健，在蒋的巨大压力下，改组派在南方已无法立足，其总部转移到了北平，正需与北方的反蒋实力派相联络。阎锡山竖起反蒋旗帜，陈公博、王法勤等改组派头面人很快到平、津与阎锡山的重要将领天津警备司令傅作义、北平警备司令李服膺、市长张荫梧、师长王靖国等人取得联系。双方逐步形成了“以阎锡山为首主持军政大计，以改组派的‘二届中央’为号召，集合全国反蒋的地方实力派，组成反蒋联合阵线”的共识。几乎在同时，受蒋介石压制打击的国民党老右派“西山会议派”的首脑邹鲁、谢持、傅汝霖、覃振等人也来到天津，策动阎锡山反蒋。为了共同的反蒋目的，原先国民党“左”“右”两派都聚集到阎锡山周围，成为以后举行“扩大会议”，鼓吹“党人治党”的重要力量。但两派所奉“党统”不一，在政治上的观点尤其分歧甚大，也成为事后反蒋派成立新中央时一个难以解决的矛盾。
1929年12月，冯玉祥召鹿钟麟由天津秘密到他被软禁的所在建安村，对鹿面授机宜，令其回陕代理总司令职务。鹿到了西安，立即按照冯的指示提出了“拥护中央，开发西北”的口号，并密派代表赴南京往见何应钦。鹿对他的代表说：“蒋介石是我们的敌人，阎锡山是我们历史上的仇人；敌可化为友，仇则不共戴天。”他的代表与何应钦见面时，何为了拉拢西北军以消灭阎锡山，对鹿表示好感，希望鹿不要再上阎的当，并说：“只要西北军一经表明打阎的态度，马上可以获得中央的接济。”鹿既与南京拉上关系，便开始计划与韩复榘、石友三联合起来攻打山西。在鹿看来，晋军力量不大，而且是长于守而短于攻，在进攻山西时，只要不攻坚城，仅以少数兵力予以监视，以主力直取太原，胜算是满有把握的。
鹿在密派代表赴南京见何的同时，并派闻承烈、李炘去河南与韩复榘、石友三取得联系。韩电鹿表示：阎锡山好用权诈，搬弄是非，如不把他打倒，国家就不会太平。鹿即复电备致赞扬之意，并说：“我弟如举兵入晋，兄愿听弟指挥。”石友三部自从由安徽移驻豫北，主要靠韩的接济，正在伺机取得一个地盘，对于联合攻打山西，当然表示同意。鹿和韩、石的这些电报，均被阎的无线电台收听译出，阎得此消息大惊，感到对冯的软禁已无作用。同时，反蒋各方代表都在太原进行活动，一致对他表示拥护，如再迟迟不表明反蒋态度，一旦西北军联合起来向山西进攻，自己就会陷于十分不利的地步。
阎遂决定放冯回陕，共同对付蒋介石。赵戴文不愿见到反蒋大战的发生，徐永昌回忆阎锡山决定放冯之后，“赵次陇问阎先生：‘你一定要放他？’阎答：‘不放他二集团即跑了。’赵闻之，义形于色，大哭而去。可见此老实不愿有此战事，亦为我所仅见渠坚决反对阎先生之一次”。久已回避不见冯玉祥的阎锡山这次很快就来到建安村，“同冯玉祥又抱头痛哭一番。彼此表示：‘同生死、共患难，反蒋到底’，并歃血为盟，在场见证人有李书城、王鸿一、梁式堂等。”
阎迎冯至太原后，立即会同冯与桂系代表以及各杂牌军的代表对讨蒋联军的组织系统和作战方略进行了会商，大体决定之后，冯即于1930年3月10日由山西返回潼关。
3月8日，在晋羁留8个多月的冯玉祥携一致反蒋协议在太原与阎锡山话别。阎锡山赠冯现款50万元、花筒手提机枪200挺、面粉2000袋作为欢送礼物。在反蒋的共同前提下，阎、冯再度携手合作。但阎锡山两头骑墙，长期软禁冯玉祥作政治筹码，在冯玉祥及其下属心中种下了仇恨的种子，给阎、冯军事反蒋同盟的内部团结带来一定消极影响。“1930年3月10日，冯由山西到达潼关，他的妻女仍留住太原。冯回到潼关对他的高级将领们说：‘蒋介石是我们第一个敌人，我们现在必须联合阎锡山打倒蒋介石，等到蒋介石被打倒以后，阎锡山是容易对付的。’”