黄埔军校名扬中外，一度是全国革命青年向往的军事学府。尽管后期的黄埔军校变成了蒋介石培植私人势力的反动大本营，它的前期还是进步的，革命的。
黄埔军校招生是从1924年初开始的，孙中山搞了多年的革命，渐渐的悟出一个道理：要走俄国人的道路。他对十月革命的胜利十分饮佩，曾致电列宁，提出“愿中俄两党团结共同斗争”。
1921年，以列宁为代表的共产国际派代表马林到中国，在桂林与孙中山举行了秘密谈判。这次谈判，促进了孙中山作出改组国民党及与中国共产党合作的决心。此后，中国国民党与中国共产党的合作一步步加深。
1923年8月，孙中山派蒋介石、张太雷等四人组成的“孙逸仙博士代表团”，到苏联去考察党务和军事，并参观了苏联的红军和一些军事院校。苏联顾问对孙中山说，要搞一支革命的军队，靠旧军队是不行的。什么滇军、湘军、赣军、桂军、鄂军，都靠不住。不久，在孙中山领导下，通过了一项决定，建立“陆军讲武堂”，决定成立“陆军军官学校筹备委员会”，委任蒋介石为筹备委员会的委员长，并亲自指定以黄埔岛上的旧水师学堂和陆军小学的旧址为校址。
黄埔岛又名长州岛，位于广州东郊、珠江南岸，距市区约40华里，面积约六平方公里。岛上林木葱茏，山峦起伏，四面环水，南连虎门，距虎门要塞仅50余公里，是从海上通向广州的要冲和门户。岛上建有长洲要塞，地形十分险要，是历史上军事国防的要地。
黄埔军校第一期录取了四百七十人，开始是四个队，以后湖南讲武堂来到后又编了第五、六队。
黄埔军校初期的组织，是以孙中山为校总理，蒋介石为校长，廖仲恺为党代表。军校设教授部、政治部、军需部、管理部和军医部。
政治课是以革命理论和革命知识为主要内容，孙中山的三民主义和马克思主义都列入正课。在军校训令中明确规定：“社会主义、共产主义、马克思主义等书籍，本校学生皆可。”
黄埔的军事课，主要是讲典范论和四大教程，如《步兵操典》、《射击教范》、《野外勤务》以及《战术学》、《兵器学》、《筑城学》、《地形学》，另外还设有《军制学》、《交通学》、《实地测图》。
1924年6月16日，黄埔军校举行隆重的开学典礼，军校大门临时搭起了松柏纷披的彩门。最引人注目的是彩门上的一副对联：“升官发财请往他处，贪生畏死勿入斯门”，横批为“革命者来”。
那天，孙中山先生偕夫人宋庆龄乘江固号军舰来到黄埔岛上，在苏联顾问加伦将军的陪同下，身穿白色“中山装”，戴着巴拿马式白帽子，神采奕奕，态度安详。他们先巡视了学堂和宿舍，9时许，孙中山和蒋介石、廖仲恺进入大礼堂，开学典礼正式开始。
孙中山先生亲自在开学典礼上发表了演说：
“我们今天要开这个学校，是有什么希望呢？就是要从今天起，把革命事业重新来创造，要用这个学校内的学生做根本，成立革命军。诸位学生，就是将来革命军的骨干。有了这种好骨干，成立了革命军，我们的革命事业，便可以成功；如果没有好的革命军，中国的革命，永远还是要失败。”
黄埔军校第一期的学生全体参加了开学典礼。这些学生一律穿着苏式黄军服，整齐严肃，精神焕发，军容极盛，他们一起激动的唱着黄埔军校校歌：
怒潮澎湃，红旗飞舞，
这是革命的黄埔
……
以血洒花，以校为家，
卧薪尝胆，努力建设中华。
接着，在白兔岗广场举行阅兵式，由何应钦任阅兵指挥官。第一期学员分作四队，由各队队长引领，正步通过检阅台。英姿疯爽，步代整齐。随后又进行了分列式表演和训练表演。整个表演长达两个小时，使在场的粤、湘、滇、桂等各军长官为之侧目，深心佩服，也得到孙中山等国民党领导人的赞赏。
黄埔军校初建时期，张治中还在虎门的桂军军校，但他的大名早以传入校长蒋介石的耳中，他多次派人前去，希望张治中到黄埔军校，并在他还未到时，就将他任命为黄埔军事研究委员会委员，后来，召开训练会议时，也常常通知他前来参加。
1924年12月，办完了桂军军校的学生毕业事宜后，张治中正式跨进了黄埔军校。
当时第一次东征——肃清陈炯明余孽的军事行动开始，黄埔军校成立了第三期入伍生总队，总队长王懋功随蒋介石东征，因此，张治中被任命为上校总队副，代理总队长职务，维护军校正常的教学和管理工作。
这不仅是一个破格的任用，而且也是一个大胆的决定。
在黄埔军校，入伍生总队长是一个相当重要的职务，何况还是蒋校长率部东征期间，“山中无老虎，猴子称大王”，黄埔军校就是入伍生总队长当家了。
张治中初入黄埔，就能荣膺此任，不能不说是蒋校长的特别信任，也不能不说是对张治中的特别借重。耐人寻味的是，此前，蒋、张之间并没有什么瓜葛。同乡，自然谈不上，一为浙东，一为皖中，风马牛不相及；同事，也谈不上，在这之前，可以说俩人没有什么更多接触。同学，或许可以扯上一点关系，不错，蒋曾经从保定陆军速成学校肄业，张为保定陆军军官学校毕业。一个相当于中学，一个则相当于专科。要说蒋、张之间的渊源，也就是他们曾经相隔8年之久，先后都到过保定上学。
最出乎张治中意料的，是自己进入黄埔之初，就被蒋校长授予上校军阶。那个时候，黄埔军校的上校是很少的。许多保定同学进入黄埔担任教官，大都是少校军阶。保定军校2期毕业刘峙，初期是少校战术教官。这还算是好一点的，而陈诚只是上尉特别官佐。“特别”并没有别的意思，也就是暂时还没有正式工作，先待一待岗吧。资格老一点的，也许可以授个中校。邓演达在进入黄埔之前，就在忠于孙中山的著名粤系将领邓铿手下任工兵团长，也是黄埔军校的创始人物。黄埔军校成立，被任命为教练部副主任兼学生队总队长，是为黄埔军校的中坚分子，但也只是个中校。
老实说，张治中既没有做出特别贡献，又没有什么特别背景，一上来就被授予上校军阶，正可以看出这是一个特例。
看到张治中在蒋校长手下如此得意，惹得一般同事都有些眼红了，很有点嫉妒地称张治中“身兼8大要职”。以一个寸功未建的外来人，一入黄埔，便大红大紫，殊让人不可思议。
蒋校长是不会看错的。这一次的超常任用，不但大出一般黄埔同事的意料，也大出张治中的意料，以至在张治中的心中掀起了滔天的巨浪，对蒋校长的知遇之恩，可谓是刻骨铭心，终身图报未尽。在数十年的政治生涯中，张治中结识了许多中共朋友。有不少中共朋友对张治中这类具有民主进步意识的人，为什么会如此效忠专制君主蒋介石，往往殊感不解。其实，这是张治中人生的复杂性与人格的多面性所决定的。
1925年夏，第三期入伍生入伍期满升学，在这后几个月的中间，张治中所担任的职务太多了，一人兼七八个职务，而且都是负着主要责任的，如：航空局局长，军事处处长，航空学校校长，黄埔第四期入伍生团长；同时党军第二师成立，蒋介石兼师长，王懋功任副师长，后实为师长，张治中当参谋长，又兼广州卫戍司令部参谋长。
那段时期，张治中显得格外的繁忙，他做梦也没有想到，蒋介石是对他如此信任，使他到黄埔不久，就显得那么的与众不同，当然心中也充满了对蒋介石的感激。
为了不辜负蒋介石的信任，他以极大的热情投入工作。
一天到晚坐汽车，坐小汽艇，往来广州与黄埔，忙到连午饭、晚饭都不知道在什么时候吃，常常到深夜十一二点钟才记起吃晚饭。但是这一种极端繁忙的工作，实在不容易长久支持下去，天长日久，他感到长此下去，不仅身体受不了，而且那一项工作都干不好，于是他多次向蒋介石提出辞去其他的职务，回黄埔专任第四期学生军官团团长，蒋介石没法，只好朝他笑了笑，然后点了点头。
事实上，张治中并不具有政治家的远见与决断，也谈不到对于政治信仰和党派观念的拘泥；张治中只是一个干练的军人，一个知行合一的实干家。实干家当然也有实干家的信条，这就是追求富国强兵的人生理想与重诺守信的人格魅力。
军校对学生的训练十分严格而有些近乎严酷和不近人情。军校建在一个岛上，学生每天早晨要在岛上绕公路跑七八公里，一些体力差的学生超初跑不下来，落伍后便被罚出列站在路旁，让他们惭愧地观望别人跑完全程。军校的操场紧靠珠江口，涨潮时操场里的水都漫过了脚，照样要出操。
军校对学生生活管理也相当严格。学生兵不准吸烟，会吸烟的人只得偷着吸。一个学生每月生活费约为6元钱，比一般军队士兵的军饷略高一些。但军校生活要求严格，如规定每人一顿饭只许添一次饭，要穿草鞋，洗冷水澡。这显然是蒋介石照搬自己在日本军队实习的做法，意在锻炼学生吃苦耐劳的精神。军校每月给学生发10个毫子的零用费，因为不准出黄埔岛，这点钱多数人花不完。
黄埔军校用以教练学生的各种武器和用以编练部队的轻重武器，都是苏俄供给的。为解决黄埔军校办学经费的困难，苏俄政府除资助200万元开办费外，还先后运来8000枝步枪和500万发子弹。
学生入伍初期，操练用的步枪都是一些杂牌要做好，以后逐渐改用苏俄共应的俄式七六二步枪、重机枪、轻机枪、驳壳枪等等。
苏俄供应军校的正器是分批秘密运来的。半夜，小火轮驶抵虎门要塞区威远炮台附近内港，停靠在一艘大海船旁边。张治中带领学生前去取枪时，看到这条大船的舱面上堆满了木材，学生们还以为是来搬运木头的。等到张治中宣布后，才知道这条大船是从海参崴开来，运送枪械弹药和军用器材给黄埔军校的。
按照传统军事教育，培养一名初级军官需三年时间。为了适应当时革命形势的需要，必须在较短期内尽快训练一批军事干部。苏联顾问根据红军建设经验，会同何应钦、邓演达、王柏龄、严重等反复研究，决定首先进行两项工作：一是制定军事教育计划，按照一个月入伍教育、六个月正式教育的期限，妥为安排各项科目的进度、日程，并定出实施的详细办法；二是重新编订了典、范、令和战术兵器、筑城、地形和交通通信五大教程，由顾问团提供办俄红军最新、最适用的资料作为编写基础材料。
苏联顾问团是在黄埔军校正式开学前夕到达的，他们中有一大批曾经参加过第一交世界大战，精通各种军事专业的苏联红军顾问，其中包括军事首席顾问加伦，共40余人，也陆续赶赴黄埔，受聘担任军校各专业指导和教官的职务。
首席顾问加伦，高大而魁梧的身材，穿着带有金属扣的制服上衣和散腿裤子，满面红光，棕色的头发，棕色的眼睛，两撇浓密而下垂的八字胡流露出笑意，常常是平静、专注而饶有兴味地看着与他交谈的人，使人情不自禁地对他肃然起敬。
他被孙中山亲聘为“中国国民党组织训练员”，参与国民党改组若干关键工作，并一同起草新的《中国国民党章程》，是苏联红军派往广州国民政府顾问组的负责人，兼黄埔军校政治总顾问。此时，他的办公室和住所依然在大东路31号，那座被许多人称为“鲍公馆”的小楼上。
顾问组的其他人，则住在东山恤孤院路34号苏联红军顾问招待所里。这里，景色秀丽，风景如画，历来为广州市内那些官僚政客、达官显贵的别墅区。招待所左右不远，即是几座建筑很古朴华贵的独楼独院。
招待所建在一条不宽的运河边，后面是一片稻田，再远一点，从大沙头岛的飞机场上，不时传来一阵阵轰隆声，那里，由苏联红军作为援助国民政府刚刚运到的几架飞机，正在检修、试飞。招待所由4座3层小洋楼恰好围成一个四方形，再外侧是一溜石砌的围墙和两扇铁门，方形的中间，是一个设计得很精致的小花园，园内有参天的大树，树上开满了蜡一样的素馨花，几乎终年不谢，浓烈的芳香又恰如苏联国内常见的茉莉花。树下石板铺就的小路，几乎被两侧茂盛的茶花从所遮盖。
顾问们每星期一早晨在天字码头乘交通艇往军校去，星期六傍晚仍是乘交通艇从黄埔回广州来，在东山招待所里住。
当时，这些俄国顾问大多不懂汉语，无法直接为学生讲课。于是，他们就先将知识与技能传授给军校中的中国教官，然后通过这些中国教官再传授给学生。当然，这也不是一件简单的事情。因为，军校的中国教官多数毕业于日本军校或国内在日军顾问指导下办的新式军校，其中也没有谁懂得俄语。但由于俄国顾问的诲人不倦，加上中国教官的学而不厌，他们之间常常使用一种俄国人和中国人都不懂的特殊语言加手势，时间长了，彼此大体上也能沟通。
黄埔军校教官，大都是出身于保定军官学校或者日本以及其他国家的军事学校，再有就是从军阀部队过来的。他们不仅带来了旧军队的作风，而且在思想感情上对革命也较疏远。
其中最突出的一个人，就是深受蒋介石信任并获重用的教授部主任王柏龄。王柏龄在黄埔军校居“一人之下，万人之上”，但生活上依然像以往一样腐化糜烂，成天去广州城里狂嫖滥赌，还抽雅片烟。害得蒋介石有事常常找不到他，只好交代给何应钦去办。
黄埔军校初期，蒋介石对于军校的教育、训练及学生管理抓得很紧。他经常亲自检查教官、学生的训练与生活情况，常常在早晨起床号吹过后即直闯教官、学员的卧室巡视。有些以为蒋校长不在校而睡懒觉者，常被他集合起来训斥。
出任黄埔校长，是蒋介石第一次掌握实权。他深知这一职位对其未来军事、政治生涯的重要意义，因此十分重视在教职员和学生中发现人才，笼络人心。
一天拂晓时分，蒋介石巡视校园，发现一房间有灯光。上前查看，发现军校办公厅上尉特别官佐陈诚正在读《三民主义》。他很是欣喜，遂又向陈诚提了几个问题，陈应对如流，这更给蒋留下深刻印象。通过这件小事，蒋发现了一位难得的人才，后来陈诚官运亨通与这件小事不无关系。
蒋介石很重视在军校内部树立自己的权威。长洲要塞与黄埔岛毗邻，防务一并归属黄埔军校。蒋介石兼任长洲要塞司令。他住在要塞司令部里，要塞炮台前竖立着一个面大红旗，旗上有个斗大的“蒋”字，如同封建朝代时的将帅旗。从要塞司令部到军校的距离不足一里路，可蒋每天上、下班，总是警卫森严。他披着一件拿破仑式的斗缝，前面有一个副官开道，四个军装整齐的武装士兵跟在后面。如果学生、官兵在路上遇见他，没有向他敬礼，他一定要追究，给予处分。
蒋介石喜欢给学生训话。据有人统计，在开学后的8个月中，蒋介石先后对学员发表了46次训话，进行军事和政治基本观念的灌输。
他很注重军人素质的培养，要求军人以服从命令为天职，强调军人要“不怕死，亦就是要死中求生，方才可以真正不死。
1924年10月，他亲手编辑成一部《增补曾国藩、胡林翼治兵语录》，发给军校师生人手一册，作为“治兵者之至宝”。
周恩来后来评价这段时间蒋介石的政治倾向时说：“蒋介石开始办黄埔军校时，表面上赞成革命，但他的思想实际上是反共反苏的，并不是真心诚意地与共产党合作。”
张治中上岛的时候，正是岛上国共两党的斗争风云初起。
黄埔军校尽管挂的是“中国国民党陆军军官学校”的牌子，它的创办，却是国共两党第一次合作的产物。本来，国民党组织上层较强，共产党组织基层较优，两党联手建军，以现代的术语讲，确是一种优势互初。黄埔军校在一年多的时间里，能以一泻千里的速度，发展成为南方革命政府手中的一张王牌，不能不说是国共合作的结果。
但是，这两个党的差异太大了，一个是资产阶级政党，一个是无产阶级政党。在张治中登上黄埔岛的时候，不论是中国国民党，还是中国共产党，都还只是两个新兴的政治势力，甚至还没有资格成为对方革命的对象。国共两党所面临的最大威胁，并不是来自对方，而是来自北方的军阀政府。在这个大环境下，形格势禁，出于共同利益的需要，国共两党的联合，只是一个顺理成章的事情。
不过，国共两党握手，只是一种斗争策略的变化，而不是终极目标的改变。矛盾只是被压抑了，而不是消失。事实上，压抑的结果，虽然获得了一个表面的平静，但这只是一种力量的积蓄和集合，在表面平静的下面，岩浆已经在地下奔腾，台风开始在洋面生成。
不久，廖仲恺先生在广州城里被国民党右派暗杀了。
廖仲恺遇害前一个星期，有人要谋刺他的消息已经成为公开的秘密。凶手们透露消息的用意，显然是想恐吓廖仲恺洗手不干。他的夫人何香凝曾劝他要加强防卫，但廖仲恺说：“增加士兵，只好捉拿刺客，但并不能阻挠他们行凶。我是天天到工会、农会学生会等团体开会或演说的，而且，一天到晚要跑几个地方。他们想谋杀我，很可以装扮成工人、农民或学生的模样，混入群众中下手的。我平生为人做事，凭良心，自问没有对不起党，对不起国家，对不起民众的地方。中国不联俄、联共，就没有出路。他们如果安心想来暗杀，防备也是没有用处的。总之，生死由他去，革命我总是不能松懈一步的。
直到遇害前几在，他还对前来通报消息的人说：“余无负于国，无负于党，个人更不营私，不牟利，要晚杀便暗杀，余复何恤！”
1925年8月20日，是国民党中央执行委员会第106次会议开会的日子，会议照例在惠州会馆国民党中央党部举行。
前一天晚上，廖仲恺又忙于替黄埔军校筹款，到家已经很晚了。第二天早晨，刚过8点，又有人来向他请示公事，等他把公事交代完毕，已经是快9点了，他还没有吃早餐。因为事先通知廖仲恺、何香凝说是9点钟开会，何香凝便催促廖仲恺说：“快点吧！开会的时间到了。”廖仲恺于是匆匆忙忙地吃了几口白稀饭，就与何香凝驱车上路了。
途中适缝民国政府监察委员陈秋霖，他正要去廖仲恺家里商量事情，廖仲恺就邀请他上车同行。
当时，一路跟踪的刺客有40余人，他们布置在整条街上，躲在巷子里。在惠州会馆门内，也有数人在窥望，等待廖仲恺的到来。当然，对于这些，廖仲恺等人并不知情。
9时50分左右，当汽车开到中央党部门前，廖仲恺、陈种霖、何香凝等刚下车举步往前走时，党部门前的骑楼底下的石柱后面突然跳出五六个举枪的暴徒。
中央党部是国民党的指挥核心所在，平时都是警戒森严，别说是持枪出入，连生人进入都要严格检查，这时突然出现持枪暴徒，是廖仲恺等人始料不及的。
这些暴徒举枪向廖仲恺、陈秋霖等连续开枪射击，连向20余枪。由于廖仲恺走在最前面，而且他也是主要的谋杀对象，因此，身中四枪，当时已不能说话。陈秋霖也中了一枪，并且是要害之处。
何香凝见此情景，大呼党部警卫人员赶快救人和捉拿凶犯，可是，此时党部门前却连一个警卫人员也没有。廖仲恺的卫队打伤了一名行刺凶手，其他暴徒则逃之夭夭。何香凝偕同随身卫士把身受重伤的廖仲恺、陈秋霖二人扶上汽车，赶往离中央党部最近的东门外百子路公立医院治疗。
廖仲恺在汽车开往医院的途中，因流血过多而去世，终年48岁。两天后，陈秋霖也不治而逝。
这里还发生了一件小故事。廖案发生后，周恩来立刻从家里赶到医院探望，整整两天两夜没有回家。当他回家的时候，仅有一套西套上染满了血迹。原来，他们本在蒋介石处商定当晚11时动手搜捕廖案凶手，而戒严却比他们原来商定的时间提前两个小时实行，口令也临时改了。周恩来驱车到司令部时，门前的警卫突然喝问口令，随即开枪射击。司机头部中弹，当场死亡。周恩来机警地卧倒在车座下。司机的鲜血溅满了他的全身。车一停，他立刻跳出车外，高声宣布自己的身份，警卫才不继续开枪。这是周恩来一生中无数出生入死经历中的一次。
廖案发生后，首先受到牵连的是国民党右翼人士的代表胡汉民。当时的社会舆论普遍认为胡汉民是暗杀廖仲恺的幕后真凶。据时任黄埔教导团第三团党代表的包惠僧回忆说：案发第二天，包在中央党部大楼内遇见胡汉民，“他很不自然地同我打招呼，并问入伍生情况。我看他的面色从不自然中流露出惭愧的样子，我也很勉强地答应了他几句话就走开了。”
随着调查的逐步深入，不少与胡汉民接近的人物多被牵连进来。廖案特别委员会认定，是胡毅生、朱卓文、林直勉和粤军军官魏邦平、梁鸿锴、杨金龙、梅光培等人出面直接策划指挥了行刺活动，粤与旅长兼民团司令朱卓文是凶犯，他们多次密谋都在胡汉民家中。胡汉民知情而不加以阻止，并且还怂恿了他们的行动。因此，胡汉民很快就被押解到长洲要塞看管起来。
廖案特别委员会、周恩来和苏联顾问鲍罗廷要求特别委员会立即逮捕胡汉民、邓泽如等人时，遭到了汪精卫的拒绝。汪精卫说：胡展堂只负政治的责任，不负法律上的责任。蒋介石也顺着汪精卫的意思说：毫无证据，怎样拿办？
9月8日，胡汉民以身体有病为由申请保释，国民政府同意其住院治疗。
9月22日，胡汉民以赴苏俄接洽的名义从黄埔登上途经上海的苏俄蒙古号轮船，离开广州，开始了国外流亡生活。
张治中是一个和平主义者；但是，当时的黄埔，并不是一个可以“和平共处“的环境。
张治中曾说：我的一切言论、态度都是为着爱护革命而出发的，最好是大家团结，以求革命的发展，如果还没有做出一点事，自己的组织行分裂，自己的肢体先就支离，则革命如何可以完成？
廖仲恺的死给了他沉痛的打击，本来在上岛初期，张治中是一个中间偏左派，随着斗争的深入，也随着不断加深对实际政治的认识，他一步步的向左派倾斜，心中更加同情和接近共产党。