蒋还专门为他的反共行为在《告民众书》里做了详细说明。从8个方面分析、表白，其主要理由是：中共没有遵行容共政策中接受三民主义的规定；要篡夺中国国民党党权；离间国民革命军；武汉中央军事学校分校对不附和他们的学生就关禁闭；宣传阶级斗争；把持饷源，不供给前线等等，等等，还有中共反对他蒋介石，就是反对国民革命军总司令。他用这些理由，说服了那些迷惑不解的年轻军人。
昨天还在高唱“共同奋斗”，今天却杀气腾腾。为了杀人，就得加罪；为了加罪，就得造谣。蒋介石在导演和主演这场历史剧的过程中，有许多乾坤颠倒的言论，不必举例了。
4月18日，蒋介石一班人，在南京成立了一个与汉口国民政府唱对台戏的国民政府，推胡汉民为主席（胡于1927年春回国）。这天下午，在旧江苏省议会举行成立典礼，蔡元培代表南京中央党部向代表南京国民政府的胡汉民授印。胡在大典上向国民革命军将士呼吁：
一致拥护蒋总司令，以巩固革命政府，打倒反革命势力。
这位刚从国外“考察”归来的国民党元老说的话不多，但表示的态度却很重要。它表明南京政府是一个“一致拥护蒋总司令”，即以蒋为核心的反共政权——他们把共产党称为“反革命势力”。
同一天，南京还发表了《告国民革命军全体将士书》，其中有这样两句：
蒋（中正）同志忠贞勇敢，受命以来转战七省，奠定江汉，四十年来本党军事成绩之伟大，盖无过于今日者。虽然，苟无认识主义、效命党团之全体将士、则蒋同志亦一手一足之力耳。
接着，南京政府发表了对共产党干部和左派国民党人的通缉令。
被通缉的共产党人有：鲍罗廷、陈独秀、谭平山、林祖涵、于树德、吴玉章、杨匏安、恽代英、毛泽东、夏曦、周恩来、邓颖超、董必武、罗亦农、邓中夏、林育南、李汉俊、罗章龙、易礼容、郭亮、刘少奇、张国焘、蔡和森、方志敏、彭述之、汪寿华、沈雁冰、瞿秋白、杨之华、施存统、张太雷、苏兆征、彭湃、阮啸仙、宣中华、熊雄、萧楚女、赵世炎、刘清扬、宋云彬、顾顺章、包惠僧、王若飞、周逸群、张秋人、刘伯承、李立三。
还有：徐谦、彭泽民、陈其瑷、詹大悲、柳亚子、章伯钧、郭沫若、顾孟余。
5月7日，南京成立了“中央清党委员会”，制定了《清党条例》通告各地党部。一场逮捕、屠杀共产党人的活动，在中国东南部蔓延着。
1927年4月18日，蒋介石在南京建立国民党政权，他登基后的第一项任务就是竭尽全力摧垮武汉革命政府。
第一次世界大战后世界一片萧瑟的寒风中，武汉革命政府犹如一株怒放的梅花，它给世界带来一丝生机，它给中国人带来希翼，蒋介石绝不允许这株梅花更加怒放。
西方资本帝国主义势力支持蒋介石，一致采取行动逼迫武汉政府走向失败。长江上巡逻的英美炮舰对武汉进行封锁，武汉政府所急需的大米、石油、煤炭无法运入。湖南农民运动惨遭许克祥镇压。武汉政府财政要人宋子文、孔祥熙转而投靠蒋介石，回过头来扼武汉政府咽喉。南京政府的特工在武汉挖空心思从事破坏。一批批动摇分子离开武汉，投向蒋介石的怀抱。在日益严峻的形势面前，武汉政府内部最高领导层在加速动摇分化。
武汉政府主席汪精卫动摇了，他说：
共产党建议我们同群众站在一起……但是群众在哪里，被高度赞扬的上海工人的力量在哪里？湖南农民在哪里？根本没有这种力量。你们看，蒋介石没有群众也相当强大。同群众站在一起意味着同军队对抗。不，我们最好不要群众，而同军队站在一起。
汪精卫这副软骨头在向蒋介石靠拢，他这个蒋介石的头号政敌倍受蒋介石排挤，在向蒋介石狂吠几声后，又摇头摆尾走向蒋介石身边。
这时期武汉政府和南京政府都举行北伐。北方冯玉祥也率军出潼关与汪精卫、蒋介石在郑州、徐州汇合。武汉政府把最后的赌注压在了冯玉祥身上，冯玉祥不买武汉方面的帐，转身靠近蒋介石，逼迫武汉方面加紧分共、反共。
武汉政府失败了，汪精卫发动了“七·一五”反革命政变，中国共产党人退出了武汉政府，旋遭到残忍的搜捕和追杀。宋庆龄、邓演达两位中坚人物坚贞不屈，亡命海外。
这边蒋介石摧垮武汉政府获得巨大成功，那边蒋介石在南京自己的日子照样百般难过。喜悦和愁苦相伴于蒋介石。
汪精卫在武汉发动“七·一五”反革命政变后，汪精卫与蒋介石仍持对立状态。在武汉，汪精卫一面反共，一面反蒋，提出所谓“在夹攻中奋斗”的口号，以汪精卫为首的武汉国民政府宣布东征讨蒋，进取南京，威胁蒋介石。蒋介石发动四一二政变，主要靠桂系李宗仁、白崇禧鼎力支持的，政变成功后，李宗仁、白崇禧腰杆硬了，开始和蒋介石貌合神离。蒋介石的第一军军长何应钦此时态度暧昧起来，向桂系李、白靠近，蒋介石有点被架空。
8月上旬、中旬，蒋介石在南京丁家花园召开幕僚会议，鼓励诸人继续向前，李宗仁、白崇禧实力派不哼不哈，不理蒋介石。8月12日晚的会议上，李宗仁、白崇禧发言强力要求与武汉方面合作。蒋介石目视何应钦寻求支持，何应钦移开目光，默不作声。蒋介石勃然大怒，不待散会，拂袖而去。会议不欢而散。
为摆脱被动局面和有被架空的危险，蒋介石使出北伐军总司令的神威，陈兵津浦路上，亲自指挥军队，讨伐北洋军阀孙传芳。
蒋介石用将可以，用兵无能，此时又利令智昏，一心想变被动为主动，犯了兵家大忌，被孙传芳打得惨败，逃回南京。又羞又愤、蒋介石找前敌总指挥王天培当替罪羊，命自己亲信蒋鼎文把王杀害于杭州拱宸桥。此招招来了国民党高级将领的众怒，群起反对蒋介石。
无奈，蒋介石宣布下野。
“娘稀皮的李宗仁、白崇禧、何应钦！你们翅膀硬了，不跟我合作了，不听我指挥了。好，我走！我倒要看看你们有多大本事！看看到底是我英雄，还是你们英雄！”
蒋介石安排了一下后事，8月13日在上海发表《辞职宣言》。认真准备东山再起了。
宁汉合流大权独揽中原大战大获全胜在无人能应付国民党内部重重的矛盾和斗争的情况下，蒋介石“顺理成章”地复职，并且在南京、武汉国民政府合流之后，党、政、军大权一把抓，成为名副其实的独裁者，随后又爆发了国民党新军阀之间的“中原大战”，蒋介石以分化、收买等手段瓦解对手，战胜各路诸侯，开始了蒋家王朝的时代。
蒋下台后，孙传芳即部署军事，反攻南京。白崇禧、李宗仁、何应钦则收军江南，防守长江，准备和孙传芳再次作战。
同时，南京派李宗仁为代表，到武汉政府洽谈和好统一之事。但武汉无人，李宗仁复追至庐山见武汉政府诸首脑。此时武汉政府首脑正在开会。李宗仁到会后，见唐生智极为嚣张和狂妄，声言李宗仁无权过问武汉进军芜湖之事。李宗仁想起他在困难中的卑躬屈膝，对他现在的狂态十分憎恶，只好要求武汉再派人到南京会谈。
这次会议上，李宗仁看到唐生智并不听汪精卫的劝说，目中无汪。这是因为汪的亲信张发奎第四军已尾追“八·一”起义军南下，唐生智独拥重兵成了武汉老大，汪自然就无力控制武汉政府了。唐生智也要建立自己的一统江山。
李回南京后，主要考虑如何对付唐生智的问题，也不再把汪放在心上了。
从8月25日到31日，李、白、何击溃反攻江南的孙传芳军。唐生智原想待李、白失败后再攻击孙传芳军，不料孙军完全败北，唐生智亦不敢贸然东下。
于是李宗仁再奔走宁汉合流。这次李宗仁击溃孙传芳反攻军后，自己也深感天下非己莫属。他认为汪是伪君子；蒋太独断，偏私；而胡汉民又太尖刻，均不足以领袖群伦。
最后，宁汉之间达成协议，9月15日组织南京中央特别委员会，不设主席，由5常委轮流任主席。汪仅为特委会委员，并不比别人高，而且还不如李、白身兼审查委员。江到宁后，南京贴出了骂汪的标语。如果说李宗仁与此事无关，是谁也不会信的。这是桂系得势后要控制南京特委会，汪精卫当然在南京呆不下去，也不再支持特委会。结果，汪精卫、唐生智、胡汉民均反对南京特委会；蒋介石自然也不赞成，并通过陈氏兄弟之中央俱乐部，动员各地党政干部反对特委会。如此以来，李、白的南京特委会完全孤立，前途自是多难了。
南京特委会于10月19日，决定讨伐唐生智，以去心头之患。11月11日，唐失败下野，逃往日本。特委会暂时维持局面，主持南京政府。这是桂系第一次掌权时期，但好景不长。
在这场你争我夺的权力战中，蒋在老家溪口观阵。9月22日，对于他复起的局势已经形成，不必担忧了。蒋决定东游日本。
他到日本的目的有二：一是了解日本意图；二是追宋美龄。29日抵日本长崎。10月3日即与宋子文乘车拜访子文之母宋夫人，向宋美龄求婚。蒋认识宋美龄，是在1922年孙中山大总统府。从那时起就决心向宋美龄求婚，但一直没有机会。这些年来，因戎马倥偬，只能向宋美龄写信。从此以后陈洁如不再是意中人。
蒋比孙中山幸运，由于他表示信奉基督教，很顺利地通过了宋夫人的严关。蒋刚从宋夫人房中出来就高兴得连声大喊老板娘，“成功了，成功了！婚约成功了！哦，对了，给你写字吧！来！来！马上替我磨墨。”当天，蒋就把定婚戒指送上宋夫人。
与美龄定婚后，就与她合影留念，到日本各名胜去旅游。然后去拜访孙中山生前的老朋友和他自己的师友。其中特别值得一提的是，他拜访了在高田当兵时的长冈师团长和飞松联队长，并给长冈写了“不负师教”的条幅，表示尊重师道。
下面的主要任务，就是和天皇的“老大哥”们见面，肯定了1927年春天默契，传闻有密约。蒋还特别提出当他和中共作战时，日本如果中立，东北和长城以北的国土问题则好商量。此后，裕仁天皇又组织星期二俱乐部，专门从事同蒋介石的“合作”。蒋又和日本首相田中义一会谈，但会谈结果是失败的，他事后说，田中义一毫无诚意，一定要阻止中国革命。因为田中明确表态，要蒋介石不可打过长江。蒋因与天皇有默契，坚持打过长江，但对统一前途，实是忧心忡忡。
蒋最后的结论是：中日无合作之可能；日方妨碍北伐成功，阻止中国统一。因此，他认为此次日本之行是失败了。
11月10日下午1时，蒋回到上海。宋夫人和宋美龄已于前一月回国，正于上海筹办婚事。11月26日于报纸上刊载启事，声明与姚冶诚、陈洁如均无婚约；与毛氏离婚，今后断绝一切关系。
12月1日下午3时，蒋介石和宋美龄先于宋宅举行基督教婚仪，由牧师余日章主持。观礼者只有上海少数近亲。然后又在上海大华饭店举行中国式结婚典礼。证婚人为蔡元培；介绍人为谭延闽、王正廷。这时，蒋41岁，宋美龄已31岁（她出生于1897年3月5日，光绪二十三年二月三日）。
蒋以能和宋美龄结婚，视为平生最得意之事，这从他结婚感言中，一望可知。他说：
“余今日得与最敬爱之宋美龄女士结婚，实为余一生以来最快慰之一日。”又云曰：“余确信，今日与宋女士结婚以后，余之革命工作必有进步。余能安心尽革命之责任，即自今日始也。”
接着他又大讲人生哲学：“余平生研究人生哲学和社会问题，深信人生无美满之婚姻，则做人一切皆无意义。社会无安定之家庭，则民族根本无进步。……家庭为社会之基础，欲改造中国之社会，应先改造中国之家庭。”
的确，蒋介石在前半生的个人生活中比一般名人的艳事稍多，他当时也很得意。但那些女性非名门望族，更无宋美龄之素养、文化和美貌与风仪。蒋介石一介武夫而得娶宋氏小姐为妻，的确是一门攀高的亲事。宋美龄即使不嫁蒋介石，也是全国第一；而嫁蒋氏之后，并未增色添光，实是一种下嫁。故而蒋介石得娶宋美龄后，真是受宠若惊，高兴之极，难免说出一些过头话或失态之语。
蒋婚后第三天，就从莫干山赶回上海，在蒋的新居拉都路311号参加中国国民党二届四中全会预备会议，把宋美龄放在一边。但宋知其夫在为国操劳，并无怨言。
这次会议10日结束。最后，一致赞同蒋介石复职。汪精卫也投了赞成票。该会议还决定于四中全会召开时，取消南京特委会。
上海财界，认准了蒋介石。不支持李宗仁，不贷款给南京特委会，因而南京特委会难以维持下去。
冯玉祥因为并不被特委会所重视，也不支持李、白等人；也要求蒋介石复职。12月1日，冯玉祥以第二集团军总司令身份要求蒋介石复职。12月9日何应钦也通电要求蒋介石复职。13日，蔡元培发表谈话，欢迎蒋介石复职。17日汪精卫出国，辞去武汉国府主席之职。26日，上海各界举行“促请蒋中正复职大会”；新任第四军军长缨培南也通电拥蒋复职。
28日，南京中国国民党中央特别委员会宣告结束。它只存在了百余日。
蒋于1928年1月7日正式复职。2月2日，中国国民党二届四中全会在南京丁家桥中央党部召开，组织新的政府。谭延闽任国民政府主席；蒋任军委主席，兼国民革命军总司令，又担任中央政治委员会主席。蒋再次大权独揽。同时设广州、武汉、开封、太原4个政治分会，由李济深、李宗仁、冯玉祥、阎锡山分任主席。
这一次蒋、李斗争中，李宗仁仅执政三个多月就一败涂地。看来李决不是蒋的对手。这主要是李氏胸怀比蒋还小，不能广揽人才和广纳各派势力。
自国民党“清党”反共后，形成了蒋、桂、阎、冯四大军事系统及后来转入国民党的东北军系统，政治派别组织也如雨后莠草，到处滋生。它们为争夺对国民党中央的控制权，翻云覆雨，今仇明友，互相攻讦，而蒋介石则以三届中央的号令要把“削藩策”进行到底，幻想尽速实现政治、军事的统一。各地有相当实力的新军阀，相继起而反抗，爆发了一起又一起的混战。蒋利用政治分化，金钱收买，封官许愿等手段，拉打结合，各个击破，最终击败了所有对手。
蒋打击的第一个目标便是桂系。桂系是1927年8月通蒋下野的主谋，蒋对此一直嫉恨在心，要算这笔旧账。更主要的是桂系势力发展过快，南有广西根据地，北有唐山地区白崇禧率数万之众虎视南京。其主力又虎踞武汉，卡住了南京上游。它对蒋介石的威胁最大。因此他要首先除掉桂系。当时桂系内部矛盾重重，又战线太长，首尾难顾。蒋桂相争对蒋有利。于是，蒋利用湘案，兴师问罪。
桂系首领也看穿了蒋介石的险恶用心，不甘心坐以待毙，积极采取防范措施，要与蒋介石争个高低。
湖南是蒋、桂争夺的焦点。桂系决心要把湘政完全控制在自己的手里，因湖南是连接广西的通道。蒋则力图截断桂系的通道，防止其势力扩大，因此也极力控制湖南。于是蒋、桂在湘省展开了激烈的争夺，遂导致湘案的发生。