1928年蔣介石北伐成功，在形式上完成了國家統一。但中國的內憂外患並未因此而消除。1930年，各地軍閥因不滿中央整編全國軍隊爆發中原大戰。1931年九一八事變爆發，日本對中國領土的野心昭然若揭，中日必有一戰。為了實現真正的國家統一和抵禦外敵，蔣介石在德國顧問的幫助下着手建立一支現代化的國防軍。

德國顧問團的組建始於鮑爾。1927年底，蔣介石在上海會見了朱家驊推薦的德軍上校鮑爾，進行了長達一周的會談。1928年3月，鮑爾隨南京國民政府的一個代表團赴德考察，11月，顧問團在德國組建完畢並啟程返華。按照鮑爾的建議，國民政府成立了一個教導隊，全部配發德式裝備，並由德國軍事顧問指導訓練，作為國軍的示範單位。1933年，塞克特向蔣介石提出《陸軍改革建議書》。他建議中國全力建設一支訓練精良、裝備齊全的武裝力量，而不是大型低素質部隊。根據他的建議，蔣介石於1934年年底提出“國軍六十個師的整軍計劃”，準備裝備和訓練60個德械國防師，1938年完成。法肯豪森認為，以當時中國的工業能力、財力與官兵素質，要建立真正德國標準的陸軍有很大困難，中國的“國軍六十個師的整軍計劃”應首先成為“輕裝快速部隊”，不倚賴重炮、戰車等重型裝備，而是用鐵路實現大部隊快速移動，進行靈活機動的作戰。就當時的中國的國情與環境而言，這是中肯和務實的建議。根據法肯豪森的整軍備戰建議，中華民國政府於1935年春在武漢行營設立陸軍整理處，陳誠任處長，總理整軍事宜。這是中國近現代第一次軍政軍令系統的大改造工程。截至1937年中日戰爭全面爆發，國軍共調整和裝備了20個德械師，另有10個師正在調整之中。實際已完成整軍的20個師，其裝備德式武器和接受德國顧問訓練的程度並不相同，系統接受過德國顧問的訓練與指導的部隊只有9個師團，即：第3師、第6師、第9師、第14師、第36師、第87師、第88師和教導總隊，以及不屬於正規軍系統的稅警總團。即使如此，這20個師仍是中華民國軍隊最精銳的部隊，堪稱中國近現代史上最現代化的陸軍。

現代化的軍隊不僅在於裝備現代化，更在於軍事思想現代化。自中央軍校第七期起（1931年），各種兵科的德國顧問都來到中國軍校擔任教官。德國顧問以嚴謹的科學態度，將西方軍事觀念如縱深布署、內外線態勢、機動作戰、攻擊/防禦重點……等理論帶入國軍訓練中，讓封建閉鎖的中國軍隊首度接觸到完整的西方現代軍事科學，大大提高了中國軍隊的戰術思想和作戰能力。

德械師對於中國國防具有重大意義。陳誠在1936年年底說，“抗日戰爭越晚爆發對中國就越有利，因我方可以有更多的準備時間……如果目前發動，我方一定是處於被動局面，如再遲一年，最低限度我方可有半主動的機會，如遲兩年爆發，則我方可以完全掌握主動局面……”。對此，著名史學家許倬雲持類似看法：“當時中國在選擇抗日的時機上還是太急了一點，假如能再延遲五年，情況很可能完全不一樣”。更有學者指出，“如果中日全面戰爭晚打5年，中國的損失會減少一半。如果晚開戰10年，中日可能打個平手。如果晚開戰15年，那中國就有可能擊敗日本”。只可惜，歷史不給蔣介石機會。