孙中山汲取十月革命的成功经验和中国革命的失败教训，决心"以俄为师"，建立革命军，去挽救中国的危亡。1921年8月，他亲自写信给苏俄外交人民委员齐契林，热切表示要加强同苏俄的联系，学习苏俄革命的经验。1921年12月，苏俄代表马林，在张太雷的陪同下到达桂林北伐大本营，与孙中山进行会谈。马林向孙中山建议，中国革命要取得成功，除了对国民党进行改组，使之成为能联合各阶层尤其是农工民众的政党之外，还必须建立一支革命军队和一个培养军事干部的学校，发展革命武装。
1923年10月，鲍罗廷到达广州后，被孙中山聘为国民党教练员。10月15日，国民党党务讨论会通过议案，"设陆军讲武堂于广州训练海外本党回国之青年子弟，俾成军事人才。拥护共和案。"11月19日，鲍罗廷出席了孙中山召开的国民党临时中央执委会，深入讨论了"组织国民党志愿师和创建军官学校"诸问题。不久，孙中山正式筹建军官学校，经国民党临时中执委审定，组织军官学校，命名为"国民军军官学校"，由孙中山担任校长，指定廖仲恺和苏联顾问鲍罗廷着手筹划开办和选定教职人员。
1924年1月，孙中山下令成立陆军军官学校筹备委员会，任命蒋介石为筹委会委员长，并将原来的"国民军军官学校"改名为"陆军军官学校"，确定以广州市郊黄埔岛上原水师学堂和陆军小学的旧址为校址。国民党"一大"刚闭幕，总顾问鲍罗廷应孙中山之邀，派出了以苏联顾问切列潘诺夫为组长的军事顾问小组参加军校的筹备工作。
孙中山在百忙中接见了军事顾问小组的全体成员，殷切希望苏联顾问把"在反对帝国主义者武装干涉、并把他们赶出本国的斗争中积累的丰富经验传授给我们的学生——革命军队未来的军官们"。苏联政府派遣第一个军事顾问小组到黄埔军校参加创建和教学工作，以军事专家弗.波里亚克为组长，成员有亚.伊.切列潘诺夫、雅.格尔曼、尼.捷列沙托夫等人。孙中山亲自接见他们，说：“我们的首要任务是按照苏联式样建立一支军队，准备北伐的根据地”。4月，安.巴富罗夫将军到达广州，受聘孙中山军事总顾问兼军事顾问团团长。
7月18日，他偕同其他苏联军事顾问及航空局飞机师数人乘广九列车赴石龙考察前线情况，不幸在石龙河面勘察时失足落水溺死。孙中山参加了他的葬礼。称他为“俄国为中国自由而捐躯的第一位先烈”。8月4日，黄埔军校举行追悼大会，孙中山又亲往参加，并手书“急邻之难”条幅以志哀悼。
随后，苏联政府派加伦(即瓦.康.布留尔)于10月间来华继任军事总顾问。后来，苏联政府又陆续派来步兵顾问白扎别列夫、顾问长蔡尔帕诺夫、政治顾问格拉觉夫、炮兵顾问嘉列里、工兵顾问瓦林、后方勤务顾问罗戈夫、炮兵教练官捷列沙托夫，以及随苏联运送支援军校枪械船艇到广州的别夏斯特诺夫、吉列夫、波洛、罗加齐夫、格米拉、泽湟克、齐利别尔特.马米伊利克等军官。这些教官如加伦、苏联军事教练顾问长:蔡尔帕诺夫、步兵顾问兼顾问长:白礼别列夫等，大都身经百战，战功卓著，有的指挥过大兵团作战，有的从事军事教育多年。他们不仅为黄埔师生带来了苏联红军的优良传统，同时还带来了当时世界上最先进的军事思想、最新式的军事技能。
1925年5月，苏联共产党中央斯大林同志认为广州黄埔军校组建第一军是好的，可靠的，同意伏龙芝的建议，向黄埔军校派200人教官团，并补充拨50万卢布，2万支步枪，100挺配备子弹的机枪以及足够数量的掷弹炮和手榴弹，武装教导团。苏联军事顾问是一批优秀的军人，他们身在异国他乡，忍受着生活习惯、饮食、文化上的差异和语言沟通上的困难，全力以赴投入军校的创建和教学活动，不仅把苏联红军的经验介绍给军校，而且在用革命思想去培养学生，开展政治工作，付出了心血，受到孙中山的赞赏和认同，对国民党军队影响深远。
黄埔早期，苏联派来大批军事教官，其中有名可查的40余人，分布在政治、炮兵、步兵、工兵、军需、交通、通讯等各个教学岗位上。黄埔军校的政治教育，在苏联顾问的指导和参与下，借鉴苏联红军的建设经验，制定了切实的教育内容和多样化的教育方法。教育内容着重基本的革命理论和革命知识，对三民主义和马克思主义采取兼收并蓄的方针，都允许在校内公开传布。军校的政治教育大纲规定的政治课多达26门，其中包括社会主义、三民主义、帝国主义、工人运动、农民运动、学生运动、苏联研究等方面的课程。如：《社会主义原理》、《中国农民运动》，《中国职工运动》、《军队政治工作》、《三民主义浅说》、《中国国民革命运动》、《帝国主义侵略中国史》等。军校的苏联顾问除了参与制定政治教育的内容和方法之外，还经常给学员作讲演。总顾问鲍罗廷多次来校，介绍十月革命的经验、苏联红军的生活及政治工作。加伦将军对军校的政治教育工作也很重视，强调要注意对学员进行政治教育以及军校在整个广东省政治形势中所起的作用。
在当时军阀把持广州财税，革命政府经费匮乏的情形下，孙中山最想要的是苏俄的军事援助，为此，苏联和共产国际援助了军校一大笔经费和许多枪械、物资。据苏联中国委员会向斯大林的报告称：按1925——1926年工作计划，要建立新的黄埔军校军队，人数达到25000人，加强空军和技术作战手段，打算给黄埔军校调拨步枪15000支，机枪100挺，子弹2000万发，带炮弹的炮24门，带炮弹的掷弹炮50门，飞机15架，使之成为国民党军的坚强核心。调拨给黄埔军校的这些武器装备总额为3988242卢布。而此前1924——1925年发送了6056990卢布的炮兵器材，还给“加仑拨款100000卢布资助黄埔军校和一个老的师团”，再资助477000卢布用于组建部队的开支，两个新师团以及黄埔军校，为期9个月，即到1926年1月1日的费用。赵琪在《壮哉黄埔》中列出了一份苏俄对军校的援助清单：
(1)军械物资1924年，输送苏式步枪8000支(全部配有刺刀)，子弹400万发;1925年，提供军火总值达56.4万卢布1926年，运送日式来福枪4000支，子弹400万发，军刀1000把，苏造来福枪1.4万支，子弹800万发，机关枪90挺，弹带4000个，大炮24门，炮弹1000枚。
(2)财政经费1925年，一次性拨交黄埔军校10万卢布，作为军校维持费。
同年，一次性拨交广州革命政府45万卢布，用于编练黄埔新军;同年，苏俄政府通知加仑将军(军事总顾问)，只要黄埔军校提出具体的预算数字，苏俄政府可以根据实际需要，继续拨给经费。
1924至1927年，苏俄总计拨给黄埔军校办学经费200万卢布。
黄埔建军，是孙中山先生在晚年作出的最重要的决策。没有一支可靠的革命军，革命不会取得成功。建军过程中，当时的苏联政府在人力物力上给予了很大的帮助，尤其是向中国派出了一大批非常优秀的军政顾问。革命军的崛起与发展，在中国的苏联顾问们起到了关键性的影响和作用。