1945年8月15日，日本宣布接受《波兹坦公告》的各项规定无条件投降。根据盟军总司令部安排，中国境内除东三省外以及越南北纬十六度线以北地区，一切日本陆海空军及辅助部队由中国政府受降接收。按照这一安排，中国陆军总司令成为了中国战区对日受降和接收的主管机关。
在此基础上，中国政府陆续颁布了《中国战区徒手官兵服役办法》、《战俘管理计划纲要》等对各地日本战俘的接收做出了明确规定。在日本战俘的集中管理和遣返问题上，中国陆军总司令决定“对业已解除武装之日本官兵，慨然交由冈村宁次自行编组，分地集中，自治自理，同时对遣送俘侨之工作，亦交由日本官兵自行负责编配，我国军官兵仅从旁监督指导而已。”
在1945年9月9日，中国战区对日军受降仪式后，日军中国派遣军总司令就此改称为中国战区日本官兵善后总联络部。随后在中国战区16个受降区内，中国军队开始接受日军的缴械投降，并在各地建立起了“日本徒手士兵集中营”，这些集中营大多是以原来的日本军营和日本关押中国战俘和百姓的集中营的改建而成。
在1945年9月9日，日本在南京向中国投降当天，负责平津地区受降工作的中国第11战区参谋长吕文贞便飞抵北平开始安排日军投降事宜。同时李宗仁也受命在日本投降后在北平设立行营指挥整个华北的军政。
1945年10月10日，当第11战区司令长官孙连仲在太和殿接受了华北日军司令官根本博的投降后，便成立了以根本博为总联络长的平津地区日本官兵善后联络部，开始了对北平日军的集中管理和缴械工作。
当时驻扎在北平周围的日军战车第二师团、独立第二旅团、独立第八旅团先后按照命令，开始向中国军队划定的缴械投降区域集中。当时一些不明真相的百姓，看到日军又乘坐汽车，开着坦克行驶在大街上，还引发了恐慌，以为日本鬼子又打进城来了，一时间四处躲避。不过对早已知道日本投降的市民来说，则站在街道两旁，看着日军缓缓的按照中国军队的指挥，前往指定地点缴械投降，无不拍手称快，抗战胜利的一天终于来到了！
按照中国第11战区司令部的指挥，日军战车第二师团的集中缴械受降地点为丰台火车站。这些日军在中国官兵的指挥下，乘坐汽车列队进入丰台车站，然后将武器摆放在指定地点后，人员被带到另一边的指定地点听候发落。
在中国军队清点完武器和投降日军人数后，这些日本士兵被押往丰台日本徒手士兵集中营进行看管。
这些被关押在北平的日军战俘，除了遭中国军事法庭起诉审判的以外，其余的分批被运往天津遣返回国。从1945年10月21日，天津遣返第一批日本战俘开始，到1946年4月20日，北平押往天津的日本战俘基本遣返结束。
