11月18日，国民党将蒋介石从日本召回，蒋介石重新上台并于1928年1月7日重新担任国民革命军总司令。3个月后，国民党宣布北伐，北伐军直逼济南。

日本以保护侨民为借口，二次派兵登陆青岛，并于4月20日出兵济南。5月1日，革命军打入济南，中日军队在济南出现对峙局面。

5月2日，已经抵达济南的蒋介石在日记中这样记述自己的心情:小不忍则乱大谋，圣贤所戒，慎之，勉之。

蒋介石以答应负担日方此次出兵的军费为条件，希望进入济南的日军撤回青岛，但是其忍让没有换回日本的退步。

5月3日，日军大举进攻济南，不论兵民，一律开枪射杀。野蛮屠杀中国人超过千人。面对如此惨状，蒋介石继续忍让，下令不准对日军还击。

对于这一惨案，日本报纸进行了歪曲事实的报道。

日本陆军省在东京《时事新报》上发布消息说，中国军队在济南附近集结了4万人，对日本怀有恶意。目前正是进行果断出击，解决中国问题的良机，并认为应该大举增兵。

“济南事变”之后，蒋介石决定对日忍让，打算绕道北伐。5月5日晚，北伐军主力撤出济南。但是此举反而助长了日军的气焰，继续向山东增兵，以迫使中国军队“投降”。

7月1日，日军向北伐军发出“通牒”，要求蒋介石道歉并处罚相关高级军官，还有解除抗日军队的武装以及禁止反日宣传等具有挑衅性的要求。

由于蒋介石拒绝道歉，集结在山东的日军在5月8日清晨炮轰济南。济南随后沦陷，日军进行了3天的炮轰和屠杀，日军肆意抢掠奸淫，中国军民死难超过4000人。日本军国主义的重新抬头，给一度顺利的北伐战争以沉重打击。

回顾这一历史，可以清晰地看出，尽管蒋介石与日本有一定的渊源，并一再对日本求和忍让，但是日本则是毫不领情地给北伐战争以武力阻挠。

这其中的道理其实是很明白的，日本不希望看到像蒋介石这样一个具有领袖气质的强人统一中国。日本乐于看到的是中国出现分裂、内乱的局面，这样才可以保证其满蒙利益的同时继续扩张，还可以在几大分裂势力之间谋求平衡以获取更大的利益。

但是，统一中国已经成为这一阶段中国革命的主流声音。蒋介石也认识到，只有打着统一的旗号，他才能站稳脚跟并壮大力量。但是，半殖民地的中国，要想统一必然会遇到国外势力的干涉，这场统一战争注定无法回避日本。作为在华利益最多的侵略者，日本打击蒋介石就成为必然。

既然蒋介石认清了历史的趋势，那么这场统一战争就势在必行，与日本的冲突无论如何是难以绕开的。

在日军方面看来，拿下一个济南是简单的，但是要阻止北伐军的继续北上则是不现实的。于是，武装控制东北，保卫其经营了多年的满蒙，成为日本的重要举措。

这一回，日本向自己的合作伙伴张作霖下手了。

1928年6月4日晨，从北京返回东北的张作霖，在行至奉天附近的皇姑屯时，专列被日本炸翻，并于当天上午毙命。

日本企图炸死张作霖之后独占东北，却在事实上促进了奉军向北伐军易帜。

6月8日，北伐军进占北京。

张作霖去世之后，其子28岁的张学良登上政治舞台。张作霖的下场让张学良认识到，与日本人为伍绝对不能在东北实现“保境安民”。即使做日本人的傀儡，也随时有被日本抛弃的可能。

另一方面，此时的东北反日爱国运动高涨，全国各地均呼吁张学良顺应大势。一旦张学良投靠日本，不仅是认贼作父，更将成为分裂国家的民族罪人。在民族大义与国仇家恨的共同作用下，张学良已经别无选择。

7月1日，张学良通电蒋介石、冯玉祥和阎锡山，表示决不妨碍国家统一。

12月29日，在张作霖被炸死半年之后，张学良通电全国，宣布东三省易帜。至此，中国从名义上实现统一。至此，蒋介石从1926年7月发起的旨在统一中国的北伐战争，历时两年半完成了历史使命。

但是，日本阻挠中国统一的步伐还在继续，一场更大的军事行动正在筹划之中。