日本人看见权力渐渐归向南京，对蒋介石一是建议清共，而是建议划江而治。蒋介石清共后北伐，在冯军的大力支持下，击败孙传芳和张宗昌的联军。攻入济南府。日本人对国民革命军在济南以军人纠纷为借口，发动突然袭击，杀害大批军人。因为误信田中义一的蒋反共即中立保证，蒋介石自己险些为日本所俘虏。退出济南后，蒋派蔡公时去与日本办外交，日本人将蔡挖鼻去眼杀害后送回给蒋。随后将日军沿陇海路一字排开，禁止国民革命军北上。老蒋愤而下野，（也是为避日本人），将国民革命军的军权全数交给冯玉祥，绕过中国东部，经由冯军和晋军控制的地区继续北伐，这才打败了张作霖，进入北京。