1945年8月15日，日本宣布接受《波茲坦公告》的各項規定無條件投降。根據盟軍總司令部安排，中國境內除東三省外以及越南北緯十六度線以北地區，一切日本陸海空軍及輔助部隊由中國政府受降接收。按照這一安排，中國陸軍總司令成為了中國戰區對日受降和接收的主管機關。
在此基礎上，中國政府陸續頒布了《中國戰區徒手官兵服役辦法》、《戰俘管理計劃綱要》等對各地日本戰俘的接收做出了明確規定。在日本戰俘的集中管理和遣返問題上，中國陸軍總司令決定“對業已解除武裝之日本官兵，慨然交由岡村寧次自行編組，分地集中，自治自理，同時對遣送俘僑之工作，亦交由日本官兵自行負責編配，我國軍官兵僅從旁監督指導而已。”
在1945年9月9日，中國戰區對日軍受降儀式後，日軍中國派遣軍總司令就此改稱為中國戰區日本官兵善後總聯絡部。隨後在中國戰區16個受降區內，中國軍隊開始接受日軍的繳械投降，並在各地建立起了“日本徒手士兵集中營”，這些集中營大多是以原來的日本軍營和日本關押中國戰俘和百姓的集中營的改建而成。
在1945年9月9日，日本在南京向中國投降當天，負責平津地區受降工作的中國第11戰區參謀長呂文貞便飛抵北平開始安排日軍投降事宜。同時李宗仁也受命在日本投降後在北平設立行營指揮整個華北的軍政。
1945年10月10日，當第11戰區司令長官孫連仲在太和殿接受了華北日軍司令官根本博的投降後，便成立了以根本博為總聯絡長的平津地區日本官兵善後聯絡部，開始了對北平日軍的集中管理和繳械工作。
當時駐紮在北平周圍的日軍戰車第二師團、獨立第二旅團、獨立第八旅團先後按照命令，開始向中國軍隊劃定的繳械投降區域集中。當時一些不明真相的百姓，看到日軍又乘坐汽車，開着坦克行駛在大街上，還引發了恐慌，以為日本鬼子又打進城來了，一時間四處躲避。不過對早已知道日本投降的市民來說，則站在街道兩旁，看着日軍緩緩的按照中國軍隊的指揮，前往指定地點繳械投降，無不拍手稱快，抗戰勝利的一天終於來到了！
按照中國第11戰區司令部的指揮，日軍戰車第二師團的集中繳械受降地點為豐臺火車站。這些日軍在中國官兵的指揮下，乘坐汽車列隊進入豐臺車站，然後將武器擺放在指定地點後，人員被帶到另一邊的指定地點聽候發落。
在中國軍隊清點完武器和投降日軍人數後，這些日本士兵被押往豐臺日本徒手士兵集中營進行看管。
這些被關押在北平的日軍戰俘，除了遭中國軍事法庭起訴審判的以外，其餘的分批被運往天津遣返回國。從1945年10月21日，天津遣返第一批日本戰俘開始，到1946年4月20日，北平押往天津的日本戰俘基本遣返結束。
