全面抗战爆发后，位于华北的山西也成为日寇的重点进攻对象，因此，老巢面临威胁的阎锡山再也在三个鸡蛋上跳不成舞了，为了保护自己的地盘儿，也基于民族大义，阎锡山率领晋绥军与日寇战争展开浴血奋战。
阎锡山
然而，由于装备、后勤、补给、训练等诸多方面的差距，晋绥军虽然在忻口会战中展示出了顽强的作战意志，但是，山西全境依然基本沦陷，晋绥军也在多场惨烈的战役中损失惨重。
当1938年阎锡山退往晋西地区时，阎锡山的情况有多惨？
他赖以维持对于山西统治的晋绥军，由巅峰时期的20余万下降到只剩4万多人，阎锡山的地盘，从山西全境的105县，只剩下晋西的7个县。与此同时，在蒋介石的支持之下，本就与阎锡山离心离德的傅作义，率领35军到达绥远，并彻底阎锡山分道扬镳。
而即便是晋绥军所剩的4万残兵败将之中，也出现军心不稳的情况：屡次战败之下，晋绥军上下普遍士气低迷，同时，由于傅作义和陈长捷的先后离开，也使得晋绥军高级将领之中人心惶惶。
傅作义
再加上八路军、牺盟会和山西新军的革命精神影响，阎锡山第1次发现，他一手建立并掌控了超过20年的晋绥军，居然有分崩离析的可能。除此之外，山西全境沦陷后，失去了财源和太原兵工厂之后，晋绥军的待遇和装备也大不如前。
根据1940年阎锡山的反应，他领导的第二战区部队，所能领到的军饷还没有国民政府规定标准的1/4。再加上此时山西新军的蓬勃发展，山西新军的人数已经超越了阎锡山的晋绥军，客观上对旧军晋绥军产生了强烈的对比。
在这种情况之下，阎锡山认为，如果再不整顿晋绥军，加强对于晋绥军的控制，他可能从此彻底失去晋绥军和山西。因此，精明的阎锡山开始多管齐下。
阎锡山
第一，阎锡山试图将已经发展至5万，并仍在蓬勃发展的山西新军彻底纳入掌控之中。山西新军是抗战初期阎锡山和共产党合作发展的抗日武装力量。
一直坚持在敌后抗战的山西新军，由于共产党的实际领导和坚定的抗战意志，获得民众的大力支持，也在战斗之中越战越强。到1939年时，山西新军已经发展成40多个团、5万余人的兵力。
也就是说，此时的山西新军人数居然已经超越了阎锡山的晋绥军。而且，这一支战斗意志高昂、战斗力强劲、且有民众普遍支持的部队，发展潜力显然远大于旧军晋绥军。
山西新军
最关键的是，由于山西新军并非被阎锡山完全控制，如果继续放任山西新军的发展，对于阎锡山而言，很可能“为他人作嫁衣裳”，等山西新军彻底超越晋绥军之后，阎锡山甚至有彻底失去收回山西省的可能。
所以，出于对八路军的忌惮和嫉妒，也眼馋山西新军这一支高达5万余人的精兵强将，阎锡山决定让山西新军彻底归入其麾下。因此，1939年12月，阎锡山利用自己对于牺盟会的领导权和在山西新军中安插的大量旧军官，发动了旨在夺取山西新军领导权的晋西事变。
然而，阎锡山的这一图谋并没有如愿以偿，由于早有准备，再加上军民的 共同支持，山西新军之中虽然有大量的旧军官，但除了山西新军三纵队数千人被阎锡山的旧军官拉走并归入晋绥军序列之外，其他大部分山西新军正式的归入八路军麾下。
阎锡山
第二，加强对于晋绥军的控制，增强晋绥军的凝聚力。在谋算山西新军不成之后，阎锡山知道，自己所能凭借的有且只有他一手建立的晋绥军了。
然而，此时阎锡山面临的困局不仅仅是物资匮乏、地盘狭小，更要命是晋绥军的涣散和士气低落。在这种情况之下，如果想继续维持和加强晋绥军，阎锡山必须解决这个问题。
在这方面，一贯奉行实用主义的阎锡山决定学习八路军，在重视政治教育的同时，在晋绥军系统内部建立一个领导核心，而这个核心，就是阎锡山所建立的“铁军”和“铁血团”。
阎锡山
铁军，顾名思义，就是阎锡山希望将自己的晋绥军打造成一支钢铁一般的军队。因此，阎锡山在晋绥军中成立了整军委员会，作为铁军的公开最高机构。
同时，又在晋绥军系统内部，从低级军官到高级将领建立一套组织严密的铁军组织。解放战争爆发之后，阎锡山的铁军组织还直接发展到了普通士兵，从而在晋绥军系统中成立一套从上而下、遍布军队各个角落、只效忠于阎锡山的组织，极大的加强了晋绥军的凝聚力和阎锡山对于军队的控制。
与此同时，阎锡山还不断的举办各种训练班，加强军官的军事素养和对于阎锡山本人的忠诚。除了在军事上成立铁军组织之外，在政治上，阎锡山也并没有丝毫放松。
晋绥军士兵
阎锡山还成立了一个名为“民族革命同志会”的组织，不但授予这个组织领导山西牺盟会及其他一切民众救亡团体的领导权，同时，在将这个民族革命同志会的分会遍布山西各区县后，还赋予这个组织密报、检举之权，从而极大地加强了阎锡山对于地方的控制。
而且，即便是在军队之中，阎锡山也没有放松政治教育。他充分学习八路军对于政治学习的重视程度，一改国民党军队重军事、轻政治的作风，阎锡山规定，在晋绥军之中，政工主官和军事主官是平行的，谁也没有领导对方的权利。
同时，在晋绥军中，如果没有加入同志会或铁军组织，就根本没有被提拔的可能。正是通过军事和政治的双管齐下，阎锡山对于军队的控制力大大加强，晋绥军的凝聚力和战斗力也有了不小的的提升。
阎锡山
第三，通过兵农合一的方式，解决了晋绥军的兵源问题，熬过了最艰难的时刻。全面抗战爆发之后，阎锡山几乎失去了所有的底牌，到1939年晋西事变之后，阎锡山的所能控制的区域更只剩下了7个县和16个不完整的县。
当时，阎锡山所能控制的狭小贫瘠土地，人口只有91万，壮丁不过30万。凭借这么小的地盘去供养数十万人的军事人员和公务人员，本身就已经极为困难，而且，阎锡山的晋绥军由于在战争初期损失惨重，还有补充军队的迫切需求。
在这种情况之下，阎锡山创造了“兵农合一”的征兵制度。从而解决了晋绥军兵员匮乏的问题。什么是兵戎合一呢？根据阎锡山的规划，就是将控制区域内的所有壮丁每三个人编成一个兵农互助小组，采用“自愿”的原则，一个人成为常备兵，也就是晋绥军之中服役。
晋绥军
但是，成为常备兵之后，家中的田地自然就无法耕种，这时，这个兵农互助小组的其他两个人就派上用场了，另两个人被称为国民兵，他们负责在家种田或做工优待同组去当常备兵的那个人。
当常备兵的服役期是三年，三年期满之后，常备兵转为国民兵，而这个兵农互助小组的其他两个人就要选一个人转为常备兵。
通过这样的方式循环，一方面实现了阎锡山“无人不当兵”的目标，另一方面，也解决了当兵过程中士兵土地无人耕种家庭无人照顾的困局。虽然这个兵农合一的制度存在诸多问题，也极大的加强了晋西地区人民的负担。
但是瑕不掩瑜，这样的征兵制度确实很大程度上缓解了阎锡山兵员匮乏的问题。从而支撑阎锡山熬过了最艰苦的8年抗战。
山西
第四，与日寇谈判妥协，为晋绥军赢得了喘息之际。抗日战争是一个已经完成工业化的日本和始终处于军阀混战的农业国中国之间的战争。因此，双方处于的局面是截然不同的。
虽然中国军民曾浴血奋战，但由于实力上的巨大差距，在抗战战场上却往往胜少败多，阎锡山自然也不例外。在失去几乎整个山西之后，阎锡山几乎面临覆亡的危机。而与此同时，一贯将自己的利益摆在第1位的阎锡山，相比坚决抗战且十分难缠的八路军，显然更有被日寇拉拢的价值。
所以，日寇在停止全面进攻之后，开始向阎锡山示好：一方面，阎锡山被允许从日本控制的地区招募壮丁扩充晋绥军，另一方面，日寇也开始给阎锡山许诺了诸多条件。
阎锡山书法
在这种情况之下，阎锡山为了求存，开始冒天下之大不韪，同意与日方接触并谈判。1940年11月，阎锡山曾派遣自己的心腹赵承绶到孝义白壁关与日方谈判。阎锡山在谈判的会议上提出了“先给晋绥军装备30个团，所需兵员、装备、粮食等所有费用均需日方供给”的条件。
1941年9月11日，赵承绶还代表阎锡山与日方签订了《日本军与晋绥军的基本协定》。这个协定甚至达成了“日方帮助阎锡山扩军30万”的协议。
然而，由于日方并没有兑现诺言，老谋深算的阎锡山也深知当汉奸的严重后果，再加上阎锡山本身也没想当汉奸，而是对于日方心存利用，因此，虽然阎锡山与日本多次谈判，屡屡站在成为汉奸的边缘，但是晋绥军从未投降。不过，对于阎锡山而言，对日谈判确实极大的缓解了日军对于晋绥军的压迫，从而给晋绥军以喘息之机。
阎锡山
第五，则是通过节衣缩食、艰苦朴素的方式熬了过来。被迫退往晋西之后，面临极大困境的阎锡山，为了熬过这段艰难岁月，开始在极限所居住地发起了一场克难运动。
他规定：晋绥军上下一律过艰苦朴素的生活，无论军官还是士兵，每人每年只有单衣、两套棉衣，同时，发动群众织布。而在饮食方面也改为一日两餐，所能吃的也只有馒头、稀饭、白菜、豆腐最常见蔬菜等。
正是通过这种艰苦堪比延安的生活，让阎锡山熬过了最艰难的岁月，并最终通过种种手段，将只剩下4万余残兵败将的晋绥军重新发展成一支人数超过10万的军队。而这也为1945年抗战胜利后，晋绥军抢占山西多地奠定了基础。
