全面抗戰爆發後，位於華北的山西也成為日寇的重點進攻對象，因此，老巢面臨威脅的閻錫山再也在三個雞蛋上跳不成舞了，為了保護自己的地盤兒，也基於民族大義，閻錫山率領晉綏軍與日寇戰爭展開浴血奮戰。
閻錫山
然而，由於裝備、後勤、補給、訓練等諸多方面的差距，晉綏軍雖然在忻口會戰中展示出了頑強的作戰意志，但是，山西全境依然基本淪陷，晉綏軍也在多場慘烈的戰役中損失慘重。
當1938年閻錫山退往晉西地區時，閻錫山的情況有多慘？
他賴以維持對於山西統治的晉綏軍，由巔峰時期的20餘萬下降到只剩4萬多人，閻錫山的地盤，從山西全境的105縣，只剩下晉西的7個縣。與此同時，在蔣介石的支持之下，本就與閻錫山離心離德的傅作義，率領35軍到達綏遠，並徹底閻錫山分道揚鑣。
而即便是晉綏軍所剩的4萬殘兵敗將之中，也出現軍心不穩的情況：屢次戰敗之下，晉綏軍上下普遍士氣低迷，同時，由於傅作義和陳長捷的先後離開，也使得晉綏軍高級將領之中人心惶惶。
傅作義
再加上八路軍、犧盟會和山西新軍的革命精神影響，閻錫山第1次發現，他一手建立並掌控了超過20年的晉綏軍，居然有分崩離析的可能。除此之外，山西全境淪陷後，失去了財源和太原兵工廠之後，晉綏軍的待遇和裝備也大不如前。
根據1940年閻錫山的反應，他領導的第二戰區部隊，所能領到的軍餉還沒有國民政府規定標準的1/4。再加上此時山西新軍的蓬勃發展，山西新軍的人數已經超越了閻錫山的晉綏軍，客觀上對舊軍晉綏軍產生了強烈的對比。
在這種情況之下，閻錫山認為，如果再不整頓晉綏軍，加強對於晉綏軍的控制，他可能從此徹底失去晉綏軍和山西。因此，精明的閻錫山開始多管齊下。
閻錫山
第一，閻錫山試圖將已經發展至5萬，並仍在蓬勃發展的山西新軍徹底納入掌控之中。山西新軍是抗戰初期閻錫山和共產黨合作發展的抗日武裝力量。
一直堅持在敵後抗戰的山西新軍，由於共產黨的實際領導和堅定的抗戰意志，獲得民眾的大力支持，也在戰鬥之中越戰越強。到1939年時，山西新軍已經發展成40多個團、5萬餘人的兵力。
也就是說，此時的山西新軍人數居然已經超越了閻錫山的晉綏軍。而且，這一支戰鬥意志高昂、戰鬥力強勁、且有民眾普遍支持的部隊，發展潛力顯然遠大於舊軍晉綏軍。
山西新軍
最關鍵的是，由於山西新軍並非被閻錫山完全控制，如果繼續放任山西新軍的發展，對於閻錫山而言，很可能“為他人作嫁衣裳”，等山西新軍徹底超越晉綏軍之後，閻錫山甚至有徹底失去收回山西省的可能。
所以，出於對八路軍的忌憚和嫉妒，也眼饞山西新軍這一支高達5萬餘人的精兵強將，閻錫山決定讓山西新軍徹底歸入其麾下。因此，1939年12月，閻錫山利用自己對於犧盟會的領導權和在山西新軍中安插的大量舊軍官，發動了旨在奪取山西新軍領導權的晉西事變。
然而，閻錫山的這一圖謀並沒有如願以償，由於早有準備，再加上軍民的 共同支持，山西新軍之中雖然有大量的舊軍官，但除了山西新軍三縱隊數千人被閻錫山的舊軍官拉走並歸入晉綏軍序列之外，其他大部分山西新軍正式的歸入八路軍麾下。
閻錫山
第二，加強對於晉綏軍的控制，增強晉綏軍的凝聚力。在謀算山西新軍不成之後，閻錫山知道，自己所能憑藉的有且只有他一手建立的晉綏軍了。
然而，此時閻錫山面臨的困局不僅僅是物資匱乏、地盤狹小，更要命是晉綏軍的渙散和士氣低落。在這種情況之下，如果想繼續維持和加強晉綏軍，閻錫山必須解決這個問題。
在這方面，一貫奉行實用主義的閻錫山決定學習八路軍，在重視政治教育的同時，在晉綏軍系統內部建立一個領導核心，而這個核心，就是閻錫山所建立的“鐵軍”和“鐵血團”。
閻錫山
鐵軍，顧名思義，就是閻錫山希望將自己的晉綏軍打造成一支鋼鐵一般的軍隊。因此，閻錫山在晉綏軍中成立了整軍委員會，作為鐵軍的公開最高機構。
同時，又在晉綏軍系統內部，從低級軍官到高級將領建立一套組織嚴密的鐵軍組織。解放戰爭爆發之後，閻錫山的鐵軍組織還直接發展到了普通士兵，從而在晉綏軍系統中成立一套從上而下、遍布軍隊各個角落、只效忠於閻錫山的組織，極大的加強了晉綏軍的凝聚力和閻錫山對於軍隊的控制。
與此同時，閻錫山還不斷的舉辦各種訓練班，加強軍官的軍事素養和對於閻錫山本人的忠誠。除了在軍事上成立鐵軍組織之外，在政治上，閻錫山也並沒有絲毫放鬆。
晉綏軍士兵
閻錫山還成立了一個名為“民族革命同志會”的組織，不但授予這個組織領導山西犧盟會及其他一切民眾救亡團體的領導權，同時，在將這個民族革命同志會的分會遍布山西各區縣後，還賦予這個組織密報、檢舉之權，從而極大地加強了閻錫山對於地方的控制。
而且，即便是在軍隊之中，閻錫山也沒有放鬆政治教育。他充分學習八路軍對於政治學習的重視程度，一改國民黨軍隊重軍事、輕政治的作風，閻錫山規定，在晉綏軍之中，政工主官和軍事主官是平行的，誰也沒有領導對方的權利。
同時，在晉綏軍中，如果沒有加入同志會或鐵軍組織，就根本沒有被提拔的可能。正是通過軍事和政治的雙管齊下，閻錫山對於軍隊的控制力大大加強，晉綏軍的凝聚力和戰鬥力也有了不小的的提升。
閻錫山
第三，通過兵農合一的方式，解決了晉綏軍的兵源問題，熬過了最艱難的時刻。全面抗戰爆發之後，閻錫山幾乎失去了所有的底牌，到1939年晉西事變之後，閻錫山的所能控制的區域更只剩下了7個縣和16個不完整的縣。
當時，閻錫山所能控制的狹小貧瘠土地，人口只有91萬，壯丁不過30萬。憑藉這麼小的地盤去供養數十萬人的軍事人員和公務人員，本身就已經極為困難，而且，閻錫山的晉綏軍由於在戰爭初期損失慘重，還有補充軍隊的迫切需求。
在這種情況之下，閻錫山創造了“兵農合一”的徵兵制度。從而解決了晉綏軍兵員匱乏的問題。什麼是兵戎合一呢？根據閻錫山的規劃，就是將控制區域內的所有壯丁每三個人編成一個兵農互助小組，採用“自願”的原則，一個人成為常備兵，也就是晉綏軍之中服役。
晉綏軍
但是，成為常備兵之後，家中的田地自然就無法耕種，這時，這個兵農互助小組的其他兩個人就派上用場了，另兩個人被稱為國民兵，他們負責在家種田或做工優待同組去當常備兵的那個人。
當常備兵的服役期是三年，三年期滿之後，常備兵轉為國民兵，而這個兵農互助小組的其他兩個人就要選一個人轉為常備兵。
通過這樣的方式循環，一方面實現了閻錫山“無人不當兵”的目標，另一方面，也解決了當兵過程中士兵土地無人耕種家庭無人照顧的困局。雖然這個兵農合一的制度存在諸多問題，也極大的加強了晉西地區人民的負擔。
但是瑕不掩瑜，這樣的徵兵制度確實很大程度上緩解了閻錫山兵員匱乏的問題。從而支撐閻錫山熬過了最艱苦的8年抗戰。
山西
第四，與日寇談判妥協，為晉綏軍贏得了喘息之際。抗日戰爭是一個已經完成工業化的日本和始終處於軍閥混戰的農業國中國之間的戰爭。因此，雙方處於的局面是截然不同的。
雖然中國軍民曾浴血奮戰，但由於實力上的巨大差距，在抗戰戰場上卻往往勝少敗多，閻錫山自然也不例外。在失去幾乎整個山西之後，閻錫山幾乎面臨覆亡的危機。而與此同時，一貫將自己的利益擺在第1位的閻錫山，相比堅決抗戰且十分難纏的八路軍，顯然更有被日寇拉攏的價值。
所以，日寇在停止全面進攻之後，開始向閻錫山示好：一方面，閻錫山被允許從日本控制的地區招募壯丁擴充晉綏軍，另一方面，日寇也開始給閻錫山許諾了諸多條件。
閻錫山書法
在這種情況之下，閻錫山為了求存，開始冒天下之大不韙，同意與日方接觸並談判。1940年11月，閻錫山曾派遣自己的心腹趙承綬到孝義白壁關與日方談判。閻錫山在談判的會議上提出了“先給晉綏軍裝備30個團，所需兵員、裝備、糧食等所有費用均需日方供給”的條件。
1941年9月11日，趙承綬還代表閻錫山與日方簽訂了《日本軍與晉綏軍的基本協定》。這個協定甚至達成了“日方幫助閻錫山擴軍30萬”的協議。
然而，由於日方並沒有兌現諾言，老謀深算的閻錫山也深知當漢奸的嚴重後果，再加上閻錫山本身也沒想當漢奸，而是對於日方心存利用，因此，雖然閻錫山與日本多次談判，屢屢站在成為漢奸的邊緣，但是晉綏軍從未投降。不過，對於閻錫山而言，對日談判確實極大的緩解了日軍對於晉綏軍的壓迫，從而給晉綏軍以喘息之機。
閻錫山
第五，則是通過節衣縮食、艱苦樸素的方式熬了過來。被迫退往晉西之後，面臨極大困境的閻錫山，為了熬過這段艱難歲月，開始在極限所居住地發起了一場克難運動。
他規定：晉綏軍上下一律過艱苦樸素的生活，無論軍官還是士兵，每人每年只有單衣、兩套棉衣，同時，發動群眾織布。而在飲食方面也改為一日兩餐，所能吃的也只有饅頭、稀飯、白菜、豆腐最常見蔬菜等。
正是通過這種艱苦堪比延安的生活，讓閻錫山熬過了最艱難的歲月，並最終通過種種手段，將只剩下4萬餘殘兵敗將的晉綏軍重新發展成一支人數超過10萬的軍隊。而這也為1945年抗戰勝利後，晉綏軍搶占山西多地奠定了基礎。
