1924年1月，中国国民党召开第一次全国代表大会，决议开办军官学校，创立国民党党军。孙中山任命蒋为陆军军官学校（黄埔军校）筹备委员会委员长，及陆军军官学校校长兼粤军总司令部参谋长。蒋回广州后，对孙中山面陈其对于“国共合作”的意见，孙中山却认为他对于中俄将来的关系顾虑过甚，更不适于当时革命现实环境。蒋因而力辞陆军军官学校校长，并将筹备处交给廖仲恺而离粤归乡。

同年四月，孙中山再三催促蒋复出。蒋乃重返广州，接受黄埔军校校长任命。冬，革命委员会成立，蒋奉派为「革命委员会」全权委员，负责弭平商团叛乱。在粤之警备军、工团军、农民自卫军、飞机队、甲车队、兵工厂卫队、陆军讲武学校、滇军干部学校均奉命归蒋指挥。1924年末，孙中山离粤北上与段祺瑞筹开国民会议。

1925年3月12日，孙中山在北平逝世，时蒋率黄埔学生与教导团官兵三千人东征，攻下东莞、石龙、平湖、深圳、淡水、平山、海丰，直捣潮、汕、梅县。蒋获悉孙中山逝世后，在军中发哀告全军将士书，并回广州祭奠孙中山。同月，大元帅府改组为国民政府，蒋被任为党军司令官。5月，黄埔军校第一期学生毕业。6月，杨希闵、刘震寰叛乱，蒋奉兼广州卫戍司令，回师讨叛平之。沙基惨案发生，蒋忧愤成疾。7月，军事委员会成立，蒋任委员，建议六大革命计划。8月，廖仲恺遇害，人心激愤，国民党中央组织特别委员会，任蒋为委员，负责政治军事及警察全权处理廖案，平定时局；胡汉民出国。

6月，国民党中央常会决议，委任蒋为中央组织部部长。国民党中央全体执委及各省市海外党部联席会议开会决议，迅即出师北伐，并任蒋为国民革命军总司令。联席会议还决议，中国共产党应造送其加入国民党之党员名册于中央组织部，俾消减猜疑，共同努力，完成革命，此决议为共产党所拒。

统一中国

攻取华南各省

1926年7月9日，蒋中正任国民革命军总司令职，誓师北伐。8月，北伐军进驻长沙，蒋发表讨吴佩孚宣言，督令各军进攻，先后大战于汀泗桥、贺胜桥，并获得胜利。9月，蒋督攻汉口、汉阳；围攻武昌等战役，赣战告急时，蒋甚至亲临面授攻城机宜毕，移师入赣督师，令潮汕部队进攻闽省。攻下闽浙后，接下于武昌战斗中，击败刘玉春、陈嘉谟等，至此吴佩孚在武汉军力全部消灭。蒋令入闽部队在攻破周荫人主力后赴赣参战，先后攻下樟树、丰城、建昌、德安、永修、抚州。孙传芳向蒋求和，但蒋拒绝。11月，攻克九江，南昌守军负隅顽抗，蒋亲临督战，克之，孙传芳在江西军力于是消灭。国民革命军总司令部移设于南昌。蒋通电各省促人民自决，先后攻下漳州、泉州，福建平。12月，阎锡山加入国民革命军。

1927年1月，东路军前敌总指挥部成立。政府会议决议中央党部与政府暂驻南昌，在鄂各「左派」委员于苏俄顾问支持下对此坚持反对，蒋努力斡旋，赴牯岭邀各中委会晤，消弭隔阂。九江英兵残杀国人，蒋建议对外方针，以和平不辱国格为主，并提请任命阎锡山为国民革命军北路总司令。其时，苏联顾问鲍罗廷及中共决议「迎汪复职，以与蒋分权」，同时攻击蒋为“新军阀”。国民政府自粤迁鄂后，汪兆铭出任国民政府主席。

国共分裂

3月，在攻下杭州、苏州后，武汉政府通过《统一党的领导机关决议案》，突然免除蒋中正一切公职。蒋乃在南昌发表《告黄埔同学书》，表明不接受该决议。[17]北伐军继而攻下上海、南京。入南京时一些北伐军违纪士兵挑衅英人，杀害外侨（或认为是北伐军中之共产党煽动[18]），英美军舰以此为理由炮击南京，遂形国际冲突，是为“南京事件”。蒋严电阻止事态扩大，静候政府以外交方式解决。在蔡元培等国民党元老举发“共党破坏革命，危害国本之逆谋”后，国民党中央监察委员会决议通过“非常紧急处置案”。

之后，北伐军于4月12日在上海采取行动，解散上海总工会等组织，抓捕处决一批共产党员，包括汪寿华、陈延年，赵世炎等[19]，蒋自此与共产党决裂。4月17日，国民党中央宣布撤销蒋的国民革命军总司令职务，并开除党籍。4月18日，蒋在南京另立国民党中央，组织政府，发表《告民众书》。4月21日，军委会自粤迁南京办公，蒋发表《告全体将士书》。

宁汉分裂与下野

1927年5月，蒋中正继续北伐，分全军为三路进攻。同时组织清党委员会，在全国各省厉行“清党”，将中共党员从各级政府及军队中清除及刑决或刑拘。北伐军先后克复扬州、泰州、滁州、蚌埠，郑州、许昌。在清江浦克复后，孙传芳通电下野。蒋抵徐州，冯玉祥来会，举行徐州会议，决定联名通电北伐，并由冯劝请武汉政府克期取消。张宗昌派员来谈输诚。云南易帜。四川刘湘通电归附。蒋奉命为国民政府军事委员。8月，北伐军反攻徐州失利，蒋下令退却，并电呈国府，自请处分。当时宁汉分裂益甚，蒋为免成爲目标，发表下野宣言，辞去各职，回乡扫墓。南京成立特别委员会，并改组国民政府。

同月，武汉汪兆铭随后也开始清党，并驱逐了苏联顾问（中共官方称之为宁汉合流）。 广西、广东和湖南等省亦分别在李宗仁、李济深、何键、朱培德等主持下开始清共。共产党在几次武装暴动失败后退到农村地区发展。

1927年9月，蒋决定出国考察日本对华政策，28日，自沪东渡日本。11月，与日首相田中义一会谈，告以中日两国相处之道。蒋自日返国后，于12月1日与宋美龄女士于上海结婚。在汪兆铭于广东成立政府后，国民政府发讨伐广东令。国民党四中全会预备会议决议请蒋复职，并负责筹备四中全会，各方亦纷电促其再起，蒋乃决定回京。