辛亥以前，曾阅曾文正全集一书，……民国二年失败以后，再将曾氏之书与胡、左诸集，悉心研究，不禁而叹胡润芝（胡林翼）之才略识见，与左季高（左宗棠）之志气节操，高出一世，实不愧当时之名将。由是益知事业成败，必有所本也。
治心即为治兵之本，吾故择曾胡治心之切要者，另列一目，兼采左季高之言，可为后世注者。
该《语录》发给师生，说这是“治兵者之至宝”，“只要带兵官长，待遇士兵像对待自己子弟一样，实力奉行”，就可以“把所带的兵放在自己掌握之中，叫他东就东，叫他西就西，叫他生就生，叫他死就死。”
黄埔附近有长洲要塞：1924年秋，要塞司令一职由蒋兼任，从此他便经常住在要塞司令部里；陈洁如（黄埔学生称她为“蒋师母”）在侧。英雄，美人在珠江之滨度过了几个春秋。
值得一提的是，要塞前曾竖起一面大旗，上书一个斗大的“蒋”字，令人联想起舞台上的“岳”家军和“杨”家将。这个“蒋”字，过去当参谋长时是挂不得的。明乎此，也就知道以往这位将军的南来北住飘拂难定之缘由了。
“黄埔”是一棵生命力极强的柳树，蒋介石是一个有心插柳人！
蒋每到黄埔办公，必着戎装、穿马靴、披斗篷，前有副官提皮包引道，后有卫兵荷枪械相随。出入营门，卫兵长高呼“立正”，两侧门卫持枪注目敬礼；蒋昂首挺胸、举白手套还礼。威严有度、气宇轩昂。
蒋在黄埔还经常演练“阅兵式”——它最能反映训练成就，可以壮观瞻、振军威、鼓士气。
蒋当黄埔校长，可谓博采众长，自成一家。西方的、东方的和苏联的，他都吸收了一些。三民主义自然是经常讲的，但他更着力的是培养一支听命于自己一人的部队。黄埔一期学生徐向前回忆说：蒋“每个星期要找十个学生见面、谈上几句，几乎所有的学生，都和蒋介石见过面，谈过话”。因此“认识了不少学生，也拉拢了不少人”。为此，他极力推行曾、胡的“爱兵如子”；一幅“蒋”字帅旗，最是画龙点睛之笔。
黄埔初建，内部并不平静。中共在军校发展党团员组织“青年军人联合会”，对此蒋并不反对，为什么？
当时，总理以容纳共产分子为革命原素之一种；而中正自开校以来，唯恐同学因怀疑而起决裂，是以时时以总理之意为意，务使本校革命之基础，免除共产与非共产之分。但期其精神之团结，完成国民革命之责任。
戴季陶是反对三大政策的，他与陈诚等在军校发起组织了“孙文主义学会”，也得到了蒋的支持。
“青年军人联合会”主要负责人，学生中有李文龙、蒋先云、周逸群、傅维钰、徐向前、许继慎、左权、张际春等人；“孙文主义学会”主要负责人，学生中有贺衷寒、缪斌、杨引之、冷欣、曾扩情、胡宗南、桂永清、酆悌等人，此外还有王柏龄、陈肇英、欧阳格、吴铁城等教职员。同床异梦，他们和他们开始走上了不同的道路（以上这些名字，有的还将在以后出现，甚至反复出现）。
1924年10月，在广州发生了陈廉伯商团叛乱事件，这是国共合作以后不久，中国人民同帝国主义及其买办势力的一次较量。在镇压商团叛乱中，黄埔学生表现得十分坚强，蒋介石也因此声誉大增。
孙中山改组国民党，建立黄埔军校，开创革命新局面的举措，引起了英帝国主义及广东买办资产阶级的恐惧和仇视。他们互相勾结，利用广州商团发动了一场反革命叛乱。在与商团的斗争中，孙中山的态度有一个变化过程：始为扣械警告，继而同意调停，最后坚决以武力平乱。
事初，孙中山得知商团私运军械的阴谋，即电令蒋介石将私运军械的船只押至黄埔。当时蒋介石兼任长洲要塞司令，其军事力量除了几门要塞炮之外，只有要塞司令部一连卫兵、500名黄埔学生和学校的一个卫兵队。扣械之后，商团煽动罢市，制造风潮，以此胁迫革命政府发还枪械。支持商团的英帝国主义也公开以武力威胁广东革命政府。孙中山不为反动势力的淫威所屈，于9月1日发表对外宣言，并向英国麦克唐纳政府提出强烈抗议。但是不久孙中山又同意了和平解决的意见，把商团事件交给胡汉民、汪精卫去处理，自己则转移大本营于韶关，决心“宁弃广州为破釜沉舟之北伐”。孙中山之所以有此决定，是因为他深感广州处境的困难。他在9月9日写给蒋介石的信中指出：英国之压迫、东江敌人之反攻、客军贪横，是致广州革命势力于死地的三死因。因此，“宜速舍去一切，另谋生路、现在之生路，即以北伐为最善”。
然而，基于这种认识去北伐，非但广州的事情不能得到妥善处理，而且必然给北伐带来不利影响，这个决策显然是错误的。在胡汉民主持下，广东政府对商团做了让步，但事情非但没有平息，反使商团的反动气焰更加嚣张。至10月9日，商团再次发出罢市通牒。孙中山意识到形势的危急，命令蒋介石迅即成立革命委员会，以备在胡汉民不能维持局面的时候，做出“快刀斩乱麻”之举。但随后却又密电蒋介石“望即舍去黄埔一孤岛，将所有枪弹并学生，一齐速来韶关，为北伐之孤注掷。此事电到即行，切勿留恋，盖我必不回救广州也”’。蒋介石认为广州是革命根据地，不应放弃，建议孙中山回师平乱。复函称：“埔校危在旦夕，中（正）决死守孤岛，以待先生早日回师来援，必不愿放弃根据重地，致吾党永无立足之地”，建议孙中山“早日回省，是为今日成败最大之关键也”。
次日，商团枪杀庆祝双十节游行的革命群众的惨案发生后，鲍罗廷立即让蒋介石电问孙中山处置意见，蒋介石在密电中提出“严办商团”的主张，孙中山即批示“严行查办”。此时，孙中山对商团的态度虽然有了改变，但仍处于矛盾之中，因广州革命军力量单薄，孙中山能指挥得动的兵力大部都在韶关，所以蒋介石再次电请孙中山回师平乱：“……中正料不久逆敌必来反攻韶关。各军非先准备南下，击灭逆敌，断难北伐。中正当死守长洲，尽我职务。尚请先生临机立断，勿再以北伐为可能，而致犹豫延误。”孙中山没有采纳蒋介石的意见，表示“北伐必可成功，无款亦出，决不回顾广州，望兄速舍长洲来韶，因有某军欲劫械，并欲杀兄，故暂宜避之，以待卫队练成再讲话……乱无可平，只有速避耳。或更激汝为同带其可用之部队齐来尤好。”
12日，广州形势更加险恶，孙中山想以广州的现有军力解决商团，令蒋介石和许崇智细查广州各部队，如有不为奸商所动摇“肯为我杀奸杀贼者”，就将黄埔的枪械发给他们“立即起义杀贼”。但这显然很难办到。至13日，广州已危在旦夕，孙中山终于下决心以部分军队回师广州。次日，下达手令，委蒋介石以平定商团之全权：“兹为应付广州临时事变，未平定期内，所有黄埔陆军军官学校、飞机队、甲车队、工团军、农民自卫军、陆军讲武学校、滇军干部学校、兵工厂卫队、警卫军统归蒋中正指挥。以廖仲恺为监察，谭平山副之。”
15日政府军与商团军展开决战，在中国共产党和广大群众的支持下，很快就平定了叛乱。这一胜利挫败了帝国主义及买办资产阶级企图颠覆广东命政府的阴谋，使广州革命根据地得到巩固，为北伐奠定了基础。在平乱过程中，蒋介石坚持正确意见，坚守黄埔待援，最后又承担了平乱的领导责任，依靠共产党和工农革命群众的力量，取得了这场斗争的胜利，发挥了一个军事助手应有的作用。
就在南方悉心平定商团暴乱的时候，北方的燕山深处，平地一声雷，掀起了一场自东北刮向西南的“龙卷风”。这就是1924年的“甲子北京政变”。原直系将领冯玉祥，弃暗投明，在第二次直奉战争前线倒戈入京，囚禁贿选总统曹锟，驱逐前清废帝溥仪，逼得“讨逆军”总司令吴佩孚南逃湖北。
冯将军莽莽身躯，燕赵气概，在“不惑”之年做了一件不惑的事：畿辅重地，强敌如林、孤军举事，快刀斩乱麻、做得如此干净利落，此举是需要极大魄力的。
但孤军难支大厦，皖奉势力乘虚而入。稍后，北京便成为冯玉祥、段祺瑞、张作霖三股势力又联合、又斗争的天下。段毕竟是“出将入相”的老手，被举为执政，时人称为“段执政”这是一个不违背官场惯例，又略带有讥讽意味的称呼；国人对这位几上几下的政府首脑，很有几分厌恶了。但是他脸皮厚，“笑骂由他笑骂，好官我自为之”；官场中没有这一套本事是不行的。
冯玉祥电邀孙中山北上共商国是；段、张也表示欢迎；这一则因为孙中山乃开国元勋，且不断革命，威望压众；再则，也是因为他们彼此虽有“司马昭之心”，却无司马氏的实力，乐得做个顺水人情。
行前，孙中山在广州召集汪精卫、胡汉民、廖仲恺、张人杰、戴季陶和孙科等人商议，决定：胡汉民留守广州，代行大元帅职权；谭延闿驻守韶关，负责大本营事务；汪精卫、宋庆龄、戴季陶、李烈钧、邵元冲和孙科等20人随行。孙太爱黄埔了，太有望于黄埔了。
11月13日，孙等人在广州登永丰舰北上时，还特地安排在黄埔停留，作了一次视察。
是日，学员们一大早起床集合，军容整洁，列队迎接于码头一一校门之间，蒋校长更是全副武装在码头恭候。永丰舰刚一靠岸，他便跳上军舰，一路左右不离，将孙引到营内。孙拣一些主要场所巡视了一遍。他是满意的，对蒋说：今观黄埔军校学生，能忍苦耐劳，努力奋斗如此，必能继吾之革命事业，必能继续我之生命，实行我之主义。凡人总有一死，只要死得其所……若二三年前余即不能死；今有学生诸君，可完成吾未竟之志，则可以死矣！
孙是位医生，在中国讲究“出行大吉”的日子里，说出这些话来，固然是由衷地流露出对黄埔的信任，或者也夹杂着对自己的病势已有些预感吧！
傍晚，孙一行再登舰前往上海，蒋一直送到码头。没料到孙蒋之间的黄埔握别，竟成永诀！孙一行是由上海取道日本长崎、神户经天津前往北京的。因为当时津浦铁路不通，且上海至天津船票客满，两星期内不能成行；孙也有意在日本做番宣传工作，乃绕道日本。
13日，孙中山北上。24日自沪抵日本神户，停留6天，于神户高等女校讲演劝诫日本国民对日本的对外扩张政策以予警惕和制止，并劝日本政府带头废除不平等条约。12月4日返抵天津，驻张园，已开始发烧，肝区作痛。31日抵北京。但段祺瑞拒绝召开国民会议，孙先生震怒，1925年1月20日病情急剧恶化。26日住进协和医院，确诊为肝癌末期。2月18日，孙中山回铁狮子胡同行辕养病。归后病情无大变化。24日孙中山胸胀，痰壅，不思饮食。26日，医嘱准备后事。
2月22日至24日之间，孙中山口授遗嘱大意，由汪精卫等写成。遗嘱共有两个：一个是国事遗嘱；一个是交代家事。致苏联政府信，亦由孙中山口授大意，由陈友仁、孙科写成。3月11日，孙中山在遗嘱上签字，12日晨9时半，孙中山逝世。
孙中山临终时，目视宋庆龄，欲语无声。并没有提蒋介石和汪兆铭的名字，也未定接班人之事。只是病中谈及同事时，意由廖仲恺、汪精卫、蒋介石三人负责，而蒋则负责军事，亦只是谈话中的意思，并无什么正式手续或文件。
孙中山死后，遗体予以防腐处理。先于协和医院进行耶稣教祈祷仪式，后抬人中央公园停灵吊唁。中央公园此后改名为中山公园。送殡者，沿途有30万人以上，由吴稚晖、戴季陶、汪精卫等多人抬灵枢至中央公园。
李石曾、汪精卫于3月16日选得西山碧云寺石塔暂厝灵枢，并派兵守卫，待南京奠都后，再归葬紫金山。
第一次东征
孙中山逝世后，蒋即一转其反共议论，而为联共宣传。一面进行两次东征，一面宣讲第三国际和联共的重要性。
孙中山于1924年11月13日北上后，陈炯明叛军又卷土重来，连占宝安、东莞、石龙镇等地。这时陈已自称救粤军总司令，林虎为总指挥，洪兆麟为副总指挥，叶举为各路总指挥，共有七个军，约六、七万人。七个军长为林虎、刘志陆、尹骥、李易标、熊略、杨坤如、黄大伟。每军万人左右。林虎第一军人最多，共一万五千。而黄大伟之第七军才两千人左右。
这时胡汉民于广州代行大元帅职权，留守广州。即命滇军杨希闵为左翼，由增城进取河源、五华、兴宁；以许崇智粤军为右翼，由虎门东向，攻取淡水、平山、海丰、陆丰；以刘震寰桂军为中路，攻取惠州，称为“惠州攻城军”。攻取惠州以后，中路军支援左右翼军攻取梅县与汕头。蒋兼任粤军参谋长。杨希闵任联军总司令。这时军校学生和教导团要求参战，蒋将这个要求向联军会议提出后，被否决。蒋又请胡转请孙中山，孙中山于途中回电允准。即将教导团和学生列入粤军——右翼军。
蒋所指挥的部队，包括两个教导团、第一、二期学生组成的步兵总队、一个炮兵营、一个工程队、一个辎重队和第三期学生组成的一个入伍生营，自2月3日（1925年）上午9时自黄埔出发。军纪严明，不征民夫，不扰民家。许崇智又将粤军第一师之王若周第二旅、王体瑞第三旅和张民达第二师，第三师、许济第三旅、第八旅、许鹰扬第十六团，拨归蒋指挥。自己指挥一小部分粤军作战。4日克东莞、石龙。10日，蒋于东征途次写四言诗一首：“亲率三千弟子兵，鸱鹗未靖此东征。艰难革命成孤愤，挥剑长空涕泪横。”13日向淡水进军，采取三面攻势。守城将领为陈逆部下洪兆麟精锐之师，坚城难克。15日晨，教导团缘梯入城，展开巷战，当晚占领淡水。午间发电向孙中山告捷。这次战斗中，教导二团七连连长孙良因擅自退却，被蒋处决。这是蒋独自指挥的第一次大胜仗，获700余俘虏，590枝枪。军校营长沈应时负伤，因作战奋勇当先，被提升为教导第二团团长；原团长王柏龄调充校军参谋长；参谋长钱大钧则调任代理第二团团长。20日粤军克平山。27日，粤军进占海丰。3月7日进占陆丰、汕头、潮安、揭阳、普宁。
此时林虎率部由五华山向棉湖、鲤湖进军，欲切断东军后路，围歼东征军于潮汕地区。蒋率教导团于12日对林虎军下达总攻击令。13日以何应钦教导一团首先进攻，旋被林军包围，陷于苦战。至于中午时分，粤军第七旅、教导第二团赶到时，党代表廖仲恺也赶到前线送来弹药，士气为之一振，立即转为攻势，逼敌退走，追击至和顺地方，又遭林军伏击，战斗极为激烈，营党代表章琰于此役阵亡。不得已，乃以教导二团绕敌侧背，由鲤湖突击敌军侧背。14日晨，将敌击溃。教导第一团此役阵亡官兵300名以上。教导两团3000人加上500学生军，共3500人，伤亡600余人。3月16日，乘胜追击残敌至五华县城，18日克五华。20日攻克兴宁，林虎逃走。21日下午，粤军总司令部（汕头）接胡汉民电报，告知“总理逝世”。22日蒋率其教导团全军遥祭孙中山于前线阵地上，为时一周。