1927年3月24日北伐軍（何應欽的第一軍）進入南京，也許是出於對帝國主義的痛恨，對外國領事館和外國人住宅、教會進行了燒殺搶劫，殺死英、美、法、意等國6人。日本領事館則被劫掠，領事館官員遭到槍擊，在領事館避難的日僑被打，負責保衛領事館的荒木龜雄大尉其後引責自殺。這就是所謂的「南京事件」。英、美派出軍艦（在長江上）對南京進行了報復性炮擊，炸死眾多南京居民，中方死傷共計約2000人。在這個背景下，日本以保護本國僑民為由出兵山東，支持張作霖北洋軍閥政權，1927年6月17日日軍占領濟南。當時日本的出兵得到了歐美列強的贊同，因為歐美人也希望日本出兵「嚇一嚇」國民黨北伐軍，希望北伐不至於發展成殺洋人的義和團運動。而英國和美國也以保護本國僑民為由，出兵天津。

　　遭到國際上對南京事件的問責後，蔣介石將其歸罪於共產黨。國民黨北伐軍占領南京以後，蔣介石發動政變，開始了反共的「清黨」運動，並擺脫親共的武漢國民政府，成立南京國民政府，依靠財閥建立自己的政權。但清黨運動也招來了國民黨內部的強烈反對，1927年8月12日，蔣介石宣布下野，實則等待時機。蔣介石下野後於1927年9月28日訪問日本，打探日本對中國北伐的態度。當時日本的田中義一首相以私人身份會見了蔣介石，表示反對北伐，希望蔣介石專心致力於中國南方的統一。此後，蔣介石接到請他火速歸國復職的電報，於1927年11月18日離開日本歸國。

　　1928年1月4日，蔣介石再任國民革命軍總司令，4月7日開始第二次北伐。為了不引起日本對北伐的干涉，蔣介石在出兵前，特地邀請日本記者，宣布北伐的範圍將不包括日本的特殊利益「滿洲」地區。