军校筹办之初，条件异常困难：校舍急需整修，学校经费没有固定来源，四周怀有敌意的大小军阀对之虎视眈眈。蒋介石上任不到一个月，就因开办预算被扣之事愤然辞职。孙中山见到辞呈后批示：“务须任劳任怨，百折不回，从穷苦中去奋斗，故不准辞职。”随后又电催蒋介石迅即回粤，批评道：“且兄在职，辞呈未准，何得拂然而行？希即返，勿延误。”在鼓励和批评的同时，又采纳了蒋介石的一些意见，使这位闹情绪的助手重新归职任事。不久。又正式任命蒋介石为陆军军官学校校长兼粤军总司令部参谋长。
孙中山非常重视军校工作，他自兼军校总理，亲自主持开学典礼，还经常抽时间到军校讲话，视察操练。蒋介石这时也逐渐领悟到掌握军校和军队的重要性，办校的热情渐增。他一改以往花天酒地的生活作风和浮躁轻慢的工作态度，摆出一副励精图治的姿态。他办事勤奋，治军严整，日常事务不论大小都要过问，还时常巡视宿舍，检查内务。为联络与学员的感情，他经常找学生个别谈话，与学生共同进餐。他亲题“亲爱精诚”的校训，注意团结，使建校初期两党党员的关系较为融洽。孙中山的苦心、苏联的帮助、共产党人的努力、蒋介石的认真工作，使军校办得生气勃勃，在一个时期内体现了国共合作所取得的成效。
蒋介石以往的工作大都属于单纯军事性质，其政治理论尚未表现出来。出任军校校长是他首次担任军政合一的职务，虽然没有思想理论意义的建树，但其不同于孙中山的思想倾向和特点已经显露出来。蒋介石十分强调以三民主义作为建军办校的指导思想，大讲苏联红军及革命成功的经验。但是从来没有全面和真正理解三民主义精髓的蒋介石，是否把三民主义的核心尤其是民权和民生思想传授给学生是不难想像的。蒋介石还强调军人的服从精神及勇于牺牲精神，将此置之于忠孝仁爱的伦理基础上，并印发《曾胡治兵语录》供师生学习，称其为“不惟治兵者之至宝，实为治心治国者之良现”，要求大家将其作为治军治国之本。这实质上是以儒家的“修身治家齐国平天下”的信条训练军队。这种以孔孟之道与流行思想相糅合的作法，不是蒋介石的首创，也不是他思想模式的独有特点，而是近代以来，站在传统封建文化和地主阶级立场上吸收西方思想人们的共同特征，其发展趋势是经过一段新旧思想并用过程之后自觉或不自觉地向封建传统复归。作为以封建文化土壤培植起来的蒋介石这样做是不足为怪的。
蒋介石很相信曾国藩相人的工夫，他曾经专门研究曾国藩用人得失，并将其用在自己的识人、用人上。
相人就是通过一个人的言谈举止看人的气质、精神风貌等，曾国藩相人技术很高，有些人只要见过一次，基本就能断定此人能够干什么，能不能重用等等。相传有一次，中国第一个留学生容闳到曾国藩幕府，曾国藩看了大为赞赏，当即委托其在美国采购机器，并负责召集中国学生去美国留学事宜，很多人担心容闳会不会携款跑了，但曾国藩非常自信地说：“容闳言谈稳重，举止端庄，不是这样的人。”事实证明曾国藩判断的正确，容闳果然将两件事情都办得很好。碰巧同一天晚清维新人士王韬求见，当时王在香港办报，以文名天下，见到曾国藩口若悬河，但曾国藩不为其所动，旁边幕僚告诫曾国藩说：“大帅如果不用此人，应将其杀掉，否则可能会有洪杨事！”曾国藩听了不吭一声，非常冷淡地让王离开，事后曾国藩说：“此人好色多言，不会有什么出息。”王后来默默无闻，一生也没有做成大事情。
蒋介石一生模仿曾国藩为人做事，用人上也多用曾国藩的办法，通过小事和语言观察对方，凡是被他相中的人就能够得到重用； 反之，即使有天大本领，不但不为蒋介石重用，反而为蒋介石怀疑、提防。
蒋介石建立黄埔军校的时候，就是用这种方式得来他后来最为倚重的三位大将。
陈诚身材矮小，其貌不扬，进入黄埔军校读书之后，虽然暗中下决心要创出一番事业，无奈个人条件有限，很多公开的集体活动，很少能够看到他的身影，更无法和当时的黄埔三杰：陈赓、蒋先云和贺衷寒相比，很长时间里蒋介石并不看重陈诚。
一次，蒋介石夜晚查哨，看见房间里有微弱的光，蒋介石以为又是士兵不按照作息时间休息，十分生气，立即推开门，准备大声训斥。结果推开门一看，只见一个士兵正点着蜡烛，借助这个微弱的光看书，蒋介石以为是小说之类闲书，一把夺过来一看，原来是《三民主义》，立即转怒为喜，再看看陈诚，其貌虽然一般，但眉宇之中透露出一股英气，神态自然，并没有因为有人突然夺书而惊慌。
蒋介石问道：‘你是哪里人？”
陈诚回答：“我是学生陈诚，浙江人。”
蒋介石听后诺诺两声，嘱咐好好休息就走了。但第二天，蒋介石宣布陈诚为少尉排长，令很多不看重陈的人大吃一惊。
蒋介石看到陈诚夜晚攻读，认为其精神可嘉，仪表言谈大方得体。加上又是浙江人，不提拔陈诚才是件怪事。
胡宗南原先是一个小学教师，因为争夺校长一职失败，愤而投军。但因为个头太小，被拒绝于门外，碰巧邓演达看见胡宗南据理力争，个子虽然小，但言辞激烈，条理清楚，投军热情很高，就网开一面，破格录取。胡宗南入学后，表现平平，因为自身条件不行，很少人认识他，但胡宗南自有升迁妙计。
胡发现蒋介石是一个爱早起的人，每天天不亮准时到操场跑步，不论天气状况如何都是如此。胡决定每天要比校长更早起，到操场练操，希望能够引起蒋介石注意。果然，蒋介石每天跑步，操场都是空无一人，现在居然发现有人比他还早，就问：“前面是谁？”胡宗南道：“是学生胡宗南！”
一个月下来，蒋介石对胡宗南这个名字，印象很深。他私下调阅了胡宗南的案卷，发现这也是一个浙江人，于是刻意培养。1930年中原大战的时候，胡宗南30岁就担任了蒋介石的王牌师师长。
除了从小事观察人之外，蒋介石还看重一个人的气量和才识。
汤恩伯出身贫寒，早有投军之志，但苦于无钱。正好当时浙江省第一师师长是陈仪，汤恩伯毛遂自荐，陈一见倾心，满口承诺，出面负责保送并资助他到日本留学。陈家兄弟多，但后代很少，陈只收养了一个女儿，陈非常孤独，待汤恩伯就像儿子一样。在汤回国的时候，陈已经投入蒋介石手下，并深得蒋介石重用。陈向蒋介石推荐汤恩伯，蒋介石见汤之后，果然觉得仪表不凡，随之命其到南京中央陆军军官学校，担任大队长。汤虽然由陈推荐，又是浙江人，但不是蒋介石亲自选拔，所以开始对汤并不重视。后来陈仪点拔他，说蒋介石最喜欢《步兵操典》一书，建议他写文章以引起蒋介石重视。
汤恩伯早年就以文名，写文章是拿手好戏，当即写了一篇《步兵中队操练之研究》，送给蒋介石。
蒋介石看了汤的文章，觉得是一个人才，但还要考验考验他。当时中央陆军军官学校校长是张治中，蒋介石成立教导师的时候，张治中推荐汤担任教导师团长，请示蒋介石，却遭到蒋介石拒绝。蒋介石说汤不会管钱，表示对其能力没有把握。实际上是考验汤的反应，看其是否有不满情绪。
果然，几天之后，蒋介石召见汤，劈头就问：“前次文白提你做团长，我不同意，你是否有意见？”
汤挺直身体回答：“军人自当报效国家，至于个人进退是委员长的事情，不是我应该问的。”
一句话说到蒋介石心坎上，于是越级提拔汤为教导师第一旅旅长，连团长这个级别都越过去了。
蒋介石除了从小事观察人之外，还特别注意第一印象和谈话，他认为谈话可以看出人是否有条理，反应是否快等等。
对于谈话对象，蒋介石最看不惯的是对方惊慌失措，因此见蒋介石最重要的是冷静，不能慌乱。曾经有一个旅长被蒋介石召见，竟然害怕得浑身发抖，蒋介石问的话一句也答不来，蒋介石很奇怪地问：“你是不是穿得太少啊！”那人竟然号陶大哭，蒋介石很尴尬，拂袖而去。其次，如果对方对蒋介石问话含糊其词，不能明确回答，就可能要倒霉。一次在战争前线，蒋介石问一位团长，他的部队减员多少？还有多少粮食？这位团长回答正确，但用了很多大概、也许等词汇，蒋介石当即训斥，并将其就地免职。蒋介石认为在战场是不能用大概、也许这些词汇的。很多人了解蒋介石的脾气，即使不知道，也马上就胡扯一个数字，蒋介石看对方答得快，以为对方思路清晰，工作负责，往往给予嘉奖。
最后，在谈话结束后，应该注意蒋介石的表情，如果蒋介石有结束谈话的意思，应该马上走，而且不能回头。据说有一个师长在被升迁的时候，得到蒋介石召见，在下台阶的时候，摔了一下，蒋介石认为此人不稳重沉着，刚刚下发的委任状又扣下了。这个人师长没有当成，还不知道为什么。还有一个参谋，跟随蒋介石多年，一次在蒋介石上汽车的时候，他不慎将包掉在地上，蒋介石当时很不满意：“你是怎么搞的，连皮包都搞不好！”后来这人外调任职，跟蒋介石辞行，谁知道蒋介石还记得这件事情，说：“我看你已经不能办什么事情了，你还是回去休息吧！”丢了一次皮包，将自己大好前程也丢了，可谓是“伴君如伴虎”啊！
蒋介石虽然好“相人”，但他的工夫显然没有曾国藩的技术高，曾国藩幕府中的人物才能出众，在晚清政坛呼风唤雨，而蒋介石所任用的人，大都是草包，即使他最看中的三个大将，也是胜仗打得少，败仗一大堆。
徐向前在黄埔的时候，有一次蒋介石找其到办公室谈话。徐向前生性腼腆，不爱说话，蒋介石问一句他答一句，没有更多的话，加上一口山西口音，讲的话蒋介石听得很费劲，又见徐的背有些弯，人长得不“威武”。蒋介石见了之后，没有说几句话，便让他走了，望着徐向前的背影。连说：“不可用也。”结果被蒋介石认为“不可用”的徐向前，在共产党领导的队伍中大展雄才，创建鄂豫皖根据地，后来又开创川陕根据地，将蒋介石的部队打得望风而逃，后来成为新中国的十大元帅之一，这是蒋介石所想像不到的，也说明了蒋介石的“相人”技术实在令人怀疑。
孙文病逝，趁机夺权
孙中山改组国民党，创办黄埔军校，开创了革命新局面，蒋介石在黄埔树立个人权威，平定商团叛乱，两次率师东征，成为冉冉升起的一颗政治新星。1925年孙中山逝世，蒋介石以“左派”面目出现，迷惑革命群众和共产党人，地位随之步步抬升，成为国民党中的二号人物。
国共两党都很重视黄埔军校，人员配备甚为整齐：廖仲恺为党代表，军事总教官为何应钦，学生总队长乃邓演达；王懋功和张治中则为入伍生总队长和总队副。
中共派张申府、周恩来、叶剑英、聂荣臻、恽代英、萧楚女、包惠僧、高语罕、周逸群和熊雄等到该校工作；周恩来从1924年11月开始，任军校政治部主任。（廖仲恺要求政治部副主任张申府推荐在国外留学过的优秀人才来黄埔，张乃推荐周等人）
黄埔军校还聘有好几个军事顾问。汪精卫、胡汉民、邵元冲也到该校兼政治课。
6月16日，黄埔举行开学典礼，孙中山偕宋庆龄亲自主持，中执监委胡汉民、汪精卫、林森、张继，外交部长伍朝枢、军政部长程潜、粤军、湘滇军的3个总司令许崇智、谭延闿、杨希闵和西路讨贼军总司令刘震寰等都出席了会议。
这一天，天朗气清、惠风和畅、军号悠扬，正好是两年前“永丰舰事件”的发端之日。当时因为孙身边没有强有力的部队，只好把司令部设在游动的兵舰上。“追往事，叹今吾”，孙以及蒋当会有很多感叹吧！
孙在典礼上发表演说，指出：
消灭曹锟、吴佩孚，根本上还要有革命的精神……俄国在六年之前，一经发动革命，便同时组织革命军，以后着着进行，所以能够消灭旧党和外来的敌人，大告成功；我们现在开办这个学校，就是仿效俄国。
黄埔开学，应该赠送它一些什么？孙是经过长期构思、打好腹稿的。这一天，他题写了“亲爱精诚”的校训，还发布了对黄埔的训词：
三民主义，吾党所宗，以建民国，以进大同。咨尔多士，为民前锋，夙夜匪懈，主义是从。矢勤矢勇，必信必忠，一心一德，贯彻始终。
经孙中山批准，军校大门上端装嵌着“革命者”的匾额，门两侧是一副令人精神为之一振的对联：
升官发财，请让他处；
贪生畏死，勿入斯门！
张治中有一段回忆：
当时那一种革命的空气，紧张的空气，无处不令人得到深切的感召和鼓舞。无论是什么人，只要你一进了黄埔的大门，你便为这种革命而紧张的空气所笼罩。当时一般革命青年，到了那种环境，就显出一种活泼、快乐、向上的精神。
李宗仁的说法是：黄埔每期不过数月，实际上只是一些军士教育。因为受革命风气的熏陶，颇有朝气。
军校前后办了七期，从1926年1月12日起，由“中国国民党陆军军官学校”改称为“国民革命军中央军事政治学校”。自第五期起，除炮科，工程和政治科的学员先期随军北伐、毕业于武汉外，其他各科学生则被调往南京举行毕业仪式，宣誓反共。1930年9月17日停办。
黄埔初建，蒋介石是颇为尽职的。
他在日本留学就养成了起早床的习惯。天将晓，他已独自在军营漫步。起床号音一落，他便直入军官或学生宿舍。贪睡的或动作迟缓的常提着裤子被他训得狼狈不堪，被训的是不敢顶嘴的。军令如此！军官当众厉声斥责士兵或部属，被责者，俯首听命，唯唯称“是”，这是军营中的一道风景线。
蒋校长在校必与教职员一起就餐。八个人一桌。整个餐厅，惟闻碗碟声，不见人说话，一心一意吃饭。“食不语，寝不言”，这是古训，符合卫生之道，蒋身体力行，蔚成风气。
校长经常集合全体人员训话，他站着讲，下属都站着听。讲到建军宗旨，他说：“我们军人拿枪的目的是保护百姓与国家的，不是杀害百姓，败坏国家。”“拿了枪来实行我们的三民主义，这个枪才算有效用”。“我们军人的职分，只有一死字；军人的目的，也只有一个死字。偷生怕死，不单是不能够做军人，而且没有人格，就不能算是人。”
遵守纪律，他讲得最多：“若是没有纪律，精神就散漫不能一贯，意志也不能一致，组织更无从统一了。所以在学校里面，只有服从命令……这就是遵守纪律”。
间或，也讲讲军人的生活作风——“完全要脱了依赖的劣根性”。扫地和“烧饭、煎菜、挑水、洗衣、揩地板、出粪缸这种事，将来都要自己来做。”
他也介绍日本的经验：“本校长自己做学生在军队的时候，一餐只吃一碗饭，三块萝卜或者一块咸鱼。”“麦食不但可以助消化，而且能够疗脚气病。”
校长还公开号召向俄共学习：俄共党员“个人肯负责任、守纪律，始终努力奋斗，视死如归。”“俄国共产党员只愿为国家、为群众谋幸福。”“他们一举一动都以主义为前提，都以精诚求团结。”
蒋校长更推崇湘军曾国藩、胡林翼的治军精神。1924年10月，他亲手编成《增补曾胡治兵语录》，在序言中写道：