1921年12月，共产国际代表马林在广西桂林会见孙中山，马林向孙中山提出“创办军官学校，建立革命军”的建议。
1924年1月中国国民党第一次全国代表会议决议建立军官学校选址于广州黄埔。
军校成立后，以蒋介石为校长，廖仲恺为国民党党代表。随后，任李济深、邓演达为教练部正、副主任，王柏龄、叶剑英为教授部正、副主任；戴季陶（后为周恩来）、周恩来为政治部正、副主任，何应钦为总教官。此外还有熊雄、恽代英、萧楚女、聂荣臻、张秋人等共产党人担任教官及各方面负责工作。
1924年5月，从1200名考生中正式取录学生350名，备取120名。5月5日开始入学。6月16日，举行陆军军官学校开学典礼，孙中山到会场给青年作了热情洋溢的讲话：“要从今天起，立一个志愿，一生一世，都不存在升官发财的心理，只知道做救国救民的事业。”
孙中山还宣布训词：“三民主义，吾党所宗， 以建民国，以进大同， 咨尔多士，为民前锋， 夙夜匪懈，主义是从， 矢勤矢勇，必信必忠， 一心一德，贯彻始终”， 此训词其后成为国民党党歌及官校校歌，并由陈祖康谱曲，该校歌从黄埔五期开始传唱至今。
1929年9月10日，在南京，蒋介石以国民政府名义，改学校名为“国民革命军黄埔军官学校”，并陆续成立潮州、洛阳、湖南、湖北、江西、广州、成都、昆明、南宁、西安、新疆等多所分校。
1930年9月，学校被要求停办，1927年底，在南京由蒋介石决定自行成立（南京）中央军事政治学校，宣誓反共。1931年3月，以中央军事委员会名义明令改名中央陆军军官学校。主要培养国民党陆军高级军官。建国后的海军少将张学思，历史学家黄仁宇都是中央军校毕业的。
抗日战争全面爆发后，1937年8月日军陷南京，其后由南京出发，经九江、武汉、四川、铜梁，至1938年11月到成都。十六个月间学校四易其地，学生长途跋涉，栉风沐雨，艰苦备尝，均能安之若素。迁校期间，因前方作战部队缺乏，十一、十二及十三期先后提前毕业，且于沿途在各地招收十四、十五两期学生。
黄埔军校在抗日战争中成了培养抗日官兵的大本营。各期毕业生都一律开赴抗日前线参战。
