1927年3月24日北伐军（何应钦的第一军）进入南京，也许是出于对帝国主义的痛恨，对外国领事馆和外国人住宅、教会进行了烧杀抢劫，杀死英、美、法、意等国6人。日本领事馆则被劫掠，领事馆官员遭到枪击，在领事馆避难的日侨被打，负责保卫领事馆的荒木龟雄大尉其后引责自杀。这就是所谓的「南京事件」。英、美派出军舰（在长江上）对南京进行了报复性炮击，炸死众多南京居民，中方死伤共计约2000人。在这个背景下，日本以保护本国侨民为由出兵山东，支持张作霖北洋军阀政权，1927年6月17日日军占领济南。当时日本的出兵得到了欧美列强的赞同，因为欧美人也希望日本出兵「吓一吓」国民党北伐军，希望北伐不至于发展成杀洋人的义和团运动。而英国和美国也以保护本国侨民为由，出兵天津。

　　遭到国际上对南京事件的问责后，蒋介石将其归罪于共产党。国民党北伐军占领南京以后，蒋介石发动政变，开始了反共的「清党」运动，并摆脱亲共的武汉国民政府，成立南京国民政府，依靠财阀建立自己的政权。但清党运动也招来了国民党内部的强烈反对，1927年8月12日，蒋介石宣布下野，实则等待时机。蒋介石下野后于1927年9月28日访问日本，打探日本对中国北伐的态度。当时日本的田中义一首相以私人身份会见了蒋介石，表示反对北伐，希望蒋介石专心致力于中国南方的统一。此后，蒋介石接到请他火速归国复职的电报，于1927年11月18日离开日本归国。

　　1928年1月4日，蒋介石再任国民革命军总司令，4月7日开始第二次北伐。为了不引起日本对北伐的干涉，蒋介石在出兵前，特地邀请日本记者，宣布北伐的范围将不包括日本的特殊利益「满洲」地区。