就在蒋介石访问莫斯科期间，苏联政府派出的顾问团也抵达广州，顾问团总顾问是鲍罗廷。
鲍罗廷1884年7月出生于维切布斯克省，在其3岁时举家移居拉脱维亚。1903年，19岁的鲍罗廷参加了列宁领导的革命组织，得到列宁的器重。1905年，鲍罗廷在拉脱维亚首府里加发展革命组织，布尔什维克成为当地重要的政治力量，列宁更加看重鲍罗廷，认为他将是年轻的重要领导人，鲍罗廷参加了共产国际的创建，并且出席了共产国际第一次代表大会。1919年12月，鲍罗廷来到西班牙。两年后又出任共产国际驻柏林特使。1923年初回到苏联。
鲍罗廷于1923年10月6日抵达广州，孙中山热烈迎接，10月15日，鲍罗廷就在广州市公园发表演讲，提出了他对国民党改组的五点意见。孙中山全盘采纳了鲍罗廷的意见，这五点意见就是：修改党纲；制定党章；在广州和上海建立党核心组织，同时建立全国地方党组织；召开国民党第一次全国代表大会，选出新的中央执行委员会。10月9日，孙中山在为鲍罗廷等苏联代表举行的欢迎会上说：“在座的苏联诸君来自一个短时期内成功地结束了内战并在世界诸强国中占据应有地位之国家。苏俄不愧为中国之榜样”。
与孙中山热烈欢迎相比，广州的实际情况就让鲍罗廷感到吃惊了。当时，鲍罗廷在广州考察，这里有国民党的广州分部，分部领导人为邓泽如，邓泽如介绍说，广州有党员3万人，但缴纳党费的只有6000人，而在国民党改组的时候重新登记时发现，很多都是虚名，真正的党员数量是3000人。另外，国民党党员之间几乎没有任何组织联系，换句话说国民党是一个没有组织体系的党，也没有召开过任何会议，甚至许多党员连国民党的基本奋斗目标都不清楚，而最让他感到不可思议的是，国民党实际状态是“既没有纲领，也没有章程，没有任何组织机构。它偶尔发布由孙签署的诸如民族主义、民权主义、民生主义等一般性题目的宣言，根本不涉及当前的事件，不对它们作出解释，也不利用这些事件来发展和巩固党。”他不由地感叹地说：“国民党作为一支有组织的力量已经完全不存在”。国民党重要人士谭平山也告诉鲍罗廷，国民党可以说根本就没有组织，且现有的人员也是乌合之众，“共和派同无政府主义者，工人同商人及资本家一起加入国民党，是屡见不鲜的，只是孙中山的声望才使他们聚集在一起。”
鲍罗廷很清楚，这样的政党根本就无法担负起领导中国革命的任务，眼前要做的第一件事就是改组国民党，但现实却是另一回事——忠于孙中山的主要人物都在前线忙于指挥，实际上在广州孙中山身边没有多少得力助手。且孙中山心中没有认识到改组国民党的重要性，他一心想着北伐。因此，鲍罗廷不得不先从争取孙中山的支持入手，他说“要改组国民党，没有孙中山我认为不行。应当利用他的左倾，他的声望和他的建党愿望来激励国内真正革命的分子，把他们集合在国民党内确实存在的左派周围”。不过，孙中山对这位苏联顾问的建议基本上是采纳的，10月18日，孙中山就任命鲍罗廷为“国民党组织教练员”，10月25日，国民党改组特别会议就在广州举行，廖仲恺、谭平山等为国民党临时中央委员会委员，李大钊为候补委员，鲍罗廷被正式任命为国民党中央执行委员会顾问。鲍罗廷也很快就拿出了国民党改组方案：
（1）国民党改组前修改党纲，并在群众中广泛宣传；
（2）制定国民党章程；
（3）在广州和上海组织坚强的核心，然后在全国建立国民党的地方组织；
（4）尽可能快地召开南方四省代表参加的代表大会，选举新的执行委员会；
（5）在召集代表大会时，必须使每一个代表懂得，他今后要做的事情是什么，怎样按照新的方式建立基层组织。
对于鲍罗廷大刀阔斧的改组，国民党内也有不少反对意见，主要就是认为鲍罗廷改组国民党的动机问题，反对者认为鲍罗廷真实的目的是要在中国培养共产党势力。当时，蒋介石就持这种观点。
蒋介石在结束苏俄考察回国后，向孙中山提交了一份《游俄报告书》，其中主要可以归纳为四点：一，对俄国政党不能过于相信，“俄党殊无诚意可言”，“俄人之言之有三分可信者”；俄国有侵略满、蒙、回疆和西藏，以至染指中原之意。因之应自立而不依人。二，应该仿效俄国建立军校。三，撤换不称职的高级官吏。四，在全国建立党的基层组织。
其实，在考察政治制度的时候，蒋介石已经出另一种结论，他说：“在政治方面，我们访问其政府的部会，考察其村苏维埃、市苏维埃，并参加莫斯科苏维埃大会，我参观他各级苏维埃的讨论与决议等情形，并与其党政要员谈话之间，无形中觉察其个部分，无论在社会中间，或是在俄共中间的斗争，正是公开的与非公开的进行着；而且更认识了苏维埃政治制度乃是专制和恐怖的组织，与我们中国国民党的三民主义的政治制度，是根本不能相容的。关于此点，如我不亲自访俄，决不是在国内时想象所能及的。”
尽管蒋介石对孙中山联俄的政策竭力加以阻止，但孙中山始终不以为然，他实际上是由于看到了苏联革命的快速成功，因而急于仿效，他说：“俄国革命之发动迟我国六年，而俄国经一度之革命，即能贯彻他等之主义，且自革命以后，革命政府日趋巩固。”其原因就是俄国的政党有好的办法，组织和训练，因此，“今日革命非学俄国不可”，“我党今后之革命，非以俄为师，断无成就。”。
其实，蒋介石等人的怀疑也并非空穴来风，当蒋介石代表团已经回国后，加拉罕在12月27日给鲍罗廷的信中说了他对那份《关于中国民族解放运动和国民党问题的决议》的看法，他说“这个决议没有说出任何新的东西和任何可以作为我们中国政策依据的东西”，但“决议中所说的一切，您已经及时地报告孙逸仙了，孙基本上已经在实施这项决议。对于那些在莫斯科起草了这个决议而不了解广东情况的人来说，我认为这个决议是很令人满意的，何况它涉及最普通的原则性理论”。不能不说，鲍罗廷在客观上的确是在按照共产国际的指示在培养共产党人。当然，鲍罗廷不会公开承认，他对于国民党内的种种怀疑总是不厌其烦地解释说，他来中国就是服务于中国革命，而不是要进行共产主义革命，他说：“共产主义是一门哲学，一个理想，目前在中国还谈不上”，“我们已经指示中国共产党及中国所有的革命者，都应当在国民党的三民主义旗帜下进行国民革命”。他也始终支持孙中山的领导地位，他说：“国民党有一位民族领袖——孙中山博士，他能够统一中国并在人民的支持下，把国家从外国帝国主义者和中国军阀的奴役下解放出来”，以此表明苏联是信任和支持孙中山的。而在国际上十分孤立的孙中山对来自强大苏联的支持自然珍惜，他因此对国民党员说：“鲍罗廷说的话他都听”，“鲍罗廷的主张，就是我的主张，凡是政治上的事，总要听他的主张，你听他的主张，就像听我的主张一样”。
11月25日，孙中山很明确地说，“我们的脸转向了苏俄”，从前为什么没有从事有组织、有系统、有纪律的奋斗？因为没有可供借鉴的范例，现在鲍罗廷来了，是从苏俄来的，俄国革命之发动迟于中国6年，而俄国经一度之革命，即能贯彻他等之主义，且自革命以后，革命政府日趋巩固。同是革命，何以俄国能成功，而中国不能成功？盖俄国革命之能成功，全由于党员之奋斗。一方面党员奋斗，一方面又有兵力帮助，故能成功。他告诉全党，“我请鲍君做吾党的训练员，使之训练吾党同志。鲍君办党极有经验，望各同志牺牲自己的成见，诚意去学他的方法”，“以团体奋斗，不专尚个人的奋斗；要靠党员的成功，不专靠军队的成功”。12月9日，孙中山在广州大本营对国民党员发表演说，再次重申了他的“联俄”决心。
1923年12月，孙中山一连做了三次演讲，主要就是申诉他改组国民党与学习俄国的决心。另外，此时苏联应允的援助也对孙中山具有很大诱惑力，因此在1924年1月16日，当蒋介石再次向孙中山表示对苏俄的担忧的时候，孙中山此时根本听不进蒋介石的任何反对，他认为蒋介石“未免顾虑过甚，更不适于当时革命现实的环境”。
1924年1月20日，国民党召开了第一次全国代表大会，孙中山向大会提交了由鲍罗廷起草的《国民党第一次代表大会宣言》，但这份宣言却遭到国民党右派的强烈反对，他们认为三民主义与共产主义是绝对不能融合在一起的。孙中山在21日反驳说：“近来俄国内政进步之神速与前大不相同，故英、美、法、日等国之国会，均欲提议承认新俄罗斯。至于意大利，则已决议承认，故就利害而言，本党与之联合，将来必能得中俄互助之益，决无大害，此即为我海外同志所宜放心也”，他认为共产主义与民生主义并不冲突，区别只在于范围的大小。
至此，蒋介石也就明白孙中山联俄已是定局，他也就不再反对孙中山，相反，他的态度大为转变，大力鼓吹孙中山的联俄政策。曾在广州担任军事顾问的切列潘诺夫因此回忆说，蒋介石本是一个“没有原则的贪图个人名利的钻营家，却偏要炫耀自己的革命性，到处宣扬自己对孙中山思想的忠诚，终于靠厚颜无耻的蛊惑宣传骗取了孙中山的信任。”
孙中山及国民党此时正在筹划北伐，他向鲍罗廷谈了这个计划，孙中山说，如果能在中国中部或者蒙古建立根据地，那么他就能够发动一场大规模反帝运动，因为在北方他没有敌人，而在南方他的敌人很多，“蒙古具有更大的优越性”，蒙古的背后就是苏联，只要苏联能提供援助就一定能成功。但孙中山也表示，广州是一个基地，即使深入到中部或者蒙古，广州也必须控制在手中，但这仍需要苏联的支援。他建议，可以在海参崴和广州之间建立一条航线，每月只要航行一次就可以。另外，孙中山告知，广州有一个飞机制造厂，但没有发动机制造能力，他希望苏联能提供必要的装备和支持。建立军校也是北伐工作的重点之一，也是鲍罗廷等苏联顾问的建议。
1924年5月2日，在鲍罗廷的支持下，蒋介石被孙中山任命为黄埔军校校长，兼粤军总司令参谋长。蒋介石开始充分利用这一有利条件，大力发展自己的嫡系力量。黄埔军校是他政治的真正起点。蒋介石可以说是从黄埔军校校长众多的人选中竞争而出的，“人们不得不承认他在当时是国民党非常需要的人才：受过军事训练，有军事经验，并且不是军阀；他没有自己的军队；他接近孙中山”，在国民党中“这样的背景唯他独有”。值得一提的是，鲍罗廷也支持蒋介石担任黄埔军校校长一职，因为在蒋介石访苏期间，苏联人对他的印象还很好，认为他是真正能帮助孙中山的为数不多的几个人之一，鲍罗廷也明白蒋介石的能力和份量。当蒋介石在上海不肯前来广州就职的时候，鲍罗廷也几次催促。
鲍罗廷向孙中山建议，在军队中应设立政治委员一职，以加强政党对军队的领导，这是苏军取胜的重要原因。孙中山说：“我们的军队中缺少这个，我们必须把所有这一切建立起来”，他在接见黄埔军校苏联军事教员和顾问的时候说：“我们的首要任务是按照苏联式样建立一支军队，准备好北伐的根据地。”
在黄埔军校期间，蒋介石也对苏联军事组织大加赞赏，他说：“俄国共产党重在纪律，又是组织严密，他的党员服从党的命令，遵守党的纪律，丝毫不能自由的。他们为什么甘愿牺牲个人的自由呢？因为他们明白主义，都有决心牺牲各个人的自由，来救全人类的自由，所以他们成功就那么快”。6月29日，蒋介石对黄埔学生说，1917年，俄国共产党只有一万几千名党员，俄国的人口有一亿五千万，平均算起来，每一万人当中只有一名共产党员。而中国国民党员现在有30多万人，每一千个人当中就有一名国民党员。按理，中国革命运动应该比俄国容易，但事实上适得其反，这是什么缘故呢？就是因为“俄国的共产党员，无论什么艰苦的事，他们都愿去做，而我们国民党员不能如此。俄国共产党党员只愿为国家为群众谋幸福，却不单为自己谋幸福，权利便让给人家，义务却拿归自己，从前反对他们党的，现在不单是不反对，不单是赞成，而且想要加入他的党”。
在东征攻下潮梅回到广州后，他又在商界联欢会上说：“我到俄国研究赤卫军那样能守纪律，不骚扰人民，完全是为人民做工夫的，和人民大众相亲相爱的——人民同他们好，那么团结，这样的军有什么打不胜的呀！所以我回国之后，就决定了，如果使军队真个能为人民求自由安乐去打仗，真个能为党实行三民主义去打仗，非用俄国赤卫军这种编制不可，故此实行仿照这样方法训练我们的党军。”
苏联国内仍然相信蒋介石是一个能辅佐孙中山的人，但苏联顾问中确有人已经觉察到蒋介石其实是一个精明的投机分子，一位苏联顾问曾写道：在担任黄埔军校前，蒋介石只是在许崇智手下“混饭吃”，他当过许崇智的副手，也当过参谋长，也给孙中山当过参谋长，他一开始就表现为两面派，一方面他拥护孙中山，另一方面也梦想着成为第二个袁世凯。而黄埔军校就是袁世凯当年的天津小站，他担任校长无疑为他日后夺取国民党领导权“提供了广泛的可能性”，“这位狡猾的阴谋家深知，没有共产党的帮助，就休想创办黄埔军校，休想建立军队”，所以，在公开场合他对鲍罗廷十分恭敬，在听鲍罗廷谈话的时候，“不时地发出一些断断续续的声音，仿佛是乌鸦的叫声，以此表示他的赞许”。
鲍罗廷也对黄埔军校寄予厚望，他“一心在策划一个他所能够领导的重心和更加扩展的黄埔实力，以便建立‘革命的专政’”，因此也对蒋介石十分倚重。
苏联因鲍罗廷在广州的进展顺利，也按照约定开始向广州提供大批军事装备。当时，黄埔军校初建的时候只有30支步枪，10月7日，“苏联轮船不远万里，把火炮、机枪、步枪和其他武器弹药从遥远的符拉迪沃斯托克运到广州”，这是由苏联“沃罗夫斯基”号训练舰运送来的，共有8000支长枪，全部有刺刀，为苏联式步枪，每支枪有500发子弹，另外还有10支手枪，随船而来还有一批军事顾问和教员。
蒋介石对于苏联的援助所起的作用很清楚，他说：“苏俄帮助我们，不只是物质帮助，并且是知识的帮助。最大的帮助，是要我们纪律严重，使同志们有纪律行动。这才是最大的帮助”。
孙中山对鲍罗廷可以说言听计从，甚至开始排斥其他党内的高级领导人。就在黄埔军校刚刚建立不久，1924年10月，广州商团发动叛乱，国民党组建革命军事委员会，10月9日，鲍罗廷来到黄埔军校与蒋介石等商议委员会人选，鲍罗廷表示，不同意汪精卫、胡汉民二人进入军事委员会。蒋介石认为鲍罗廷这样会引起很大麻烦，他说，虽然排出这两人可以减小一些麻烦，但党内分裂则会带来更大的麻烦，因此他认为应该让汪精卫和胡汉民进入军委会。孙中山则表示支持鲍罗廷，他说军委会缺少了汪精卫和胡汉民“未尝不可”，他说：“汉民已失此信仰，当然不能加入，于事乃为有济，若必加入，反多妨碍”，“至于汪精卫，本来也是”非俄派革命，不加入也可，他告诉蒋介石，“我党今后之革命，非以俄为师断无成就，而汉民、精卫恐不能降心相从”。
但在蒋介石的坚持下，10月11日革命军事委员会成立，名单中有汪精卫。而在10月14日，军事委员会又成立了一个常务委员会，由蒋介石、廖仲恺、鲍罗廷三人组成。平息这场叛乱的军队指挥权归蒋介石，实际上，鲍罗廷已经成为国民党的主要决策人和实际军事行动指挥者。