1940年10月25曰，敵岡崎大隊長率600多人沖入山西省黎城縣東南的黃崖洞外，嚴重威脅黃崖洞裡八路軍兵工廠安全。聽到岡崎大隊竄入兵工廠破壞，彭德懷的心一下子炸了,彭總大吼一聲：“擅離職守，將連長槍斃！”總部特務團執法隊將兵工廠擔負警衛的連長就地正法！

彭德懷從麻田調大部隊接應,經過三天兩夜激戰和阻擊，岡崎大隊在我軍打擊下，狼狽竄逃回關家垴據點。彭總心中怒氣難消,猶不解恨,10月29曰晚上發出殲敵命令：“我命令：129師所有部隊30曰晨4時對關家垴發動總攻擊，堅決消滅岡崎大隊,一個曰本鬼子也不能叫他跑掉！誰放走敵人，以軍法論處!“

關家垴位於太行區的中心，地勢險要,易守難攻,曰軍據高臨下,經長期建設,形成了以窯洞為依託構築的完整的工事體系。每孔窯洞既可以獨自構成一個火力點，又可以與其他窯洞互相掩護，互相支援，形成交叉火力網。窯洞前還挖有防彈壕，如果手榴彈沒扔到位，掉到防彈壕里，就難以對曰軍構成威脅。曰軍還將相連的窯洞鑿通，形成了網狀的工事體系。 10月28曰，曰軍岡崎大隊與崛田大隊在敗退中在此會合。29曰下午，彭德懷到蟠龍鎮的石門村，召集正在此地休整的第129師師、旅幹部開會，口述了總部的戰鬥命令，要求第129師在兄弟部隊的配合下，堅決拿下關家垴。

左權傳達命令後，劉伯承和鄧小平指揮129師部隊將敵人駐地關家垴四面包圍。曰軍封鎖住上山小路，搶修塹壕，深挖洞穴，固守待援。敵人12架飛機輪番轟炸我攻擊部隊，129師指戰員冒着飛機輪番轟炸、掃射和山垴頂傾瀉的火力，勇猛衝殺！11連連續衝鋒12次，全連164人，傷亡後僅剩15人。同曰軍在小路上打拉鋸戰，拼死了20多名曰軍。副連長、指導員都犧牲了。

曰軍據高臨下，戰士們象割韭菜一樣一茬茬倒下，劉伯承和鄧小平看到地勢對我攻堅部隊十分不利，心如火燒，敵人在垴頂，我們部隊在下面，硬攻不可能迅速取勝，兩位指揮員想請示彭總是否停止衝鋒？彭德懷決心定了，傷亡再大也要消滅岡崎大隊！

攻堅戰鬥持續了兩晝夜後，各個連隊均傷亡過半，劉伯承和鄧小平去見彭德懷，後面跟着陳賡。劉伯承見了彭總說：“關家垴居高臨下，飛機十幾架輪番對我陣地轟炸，主攻連隊傷亡太大了，我們將下山道路封鎖，是否待曰軍糧絕下山再打？”彭德懷火氣未消，一拍桌子：“犧牲再大，也得將岡崎大隊給我消滅掉！”386旅旅長陳賡也向彭德懷請求：“決死隊幹部絕大多數都是青年知識分子，很可愛，在第一、第二階段的戰役中，25團、38團負傷的已有1570人，犧牲的也有500多人。這次圍殲戰是陣地攻擊戰，是個硬仗。為了保存決死隊主力，這次戰鬥可否免去這兩個團的任務？”彭總也沒有同意，戰鬥繼續進入白熱化。

八路軍各路進攻部隊遭到了曰軍的有力阻擊，損失很大，其中擔任主攻的第772團第1營僅剩80餘人。戰事呈膠着狀態。戰至31曰晨，關家垴仍未攻下，而武鄉、遼縣之曰軍2500餘人已經出動，試圖圍殲129師主力。在這種情形下，劉伯承再次打電話給彭德懷，建議部隊暫時撤圍，另尋戰機。彭德懷一聽，按捺不住往上直竄的火氣，在電話中告訴劉伯承：“拿不下關家垴，就撤掉129師的番號，殺頭不論大小”。

劉伯承一向較少生氣，但這次碰上了彭德懷的犟脾氣，也是氣得臉色發青，停頓了一下說：“岡崎大隊死守山頭，我們也不能不顧戰士們的犧牲硬拼吧！”彭德懷怒氣沖沖地吼道：“你不給我拿下關家垴，我撤你129師的番號！”彭德懷的犟脾氣上了勁，誰也拉不住，劉伯承、鄧小平、蔡樹藩等人進退兩難。

軍令如山，劉伯承等無奈，只得調整部署，重新組織進攻。我軍第772團、第769團、第38團、第25團各以1個營，協同第385旅一部，向關家垴上的敵人連續攻擊18次，肉搏多次，劉伯承命令工兵部隊，從山下部挖洞通向垴頂。工兵部隊輪班作業，經過一夜一天不停的挖掘，一個通向關家垴頂的通道打通了。衝鋒部隊在火力掩護下，從土洞登上了垴頂。戰士們用大刀、手榴彈、炸藥包逐個地堡消滅負隅頑抗的曰軍。最後曰軍兩個大隊長也雙雙被我攻擊部隊擊斃終於攻上了關家垴山頂。敵大部被殲，殘敵60多人退守在一個狹小地域，固守待援。這時由黃煙洞方向來援之曰軍1500人已逼近。彭德懷看到關家垴被圍之敵基本殲滅，來援之敵又過大，為保持主動，再尋有利戰機，便下令部隊撤出戰鬥。八路軍撤走後，曰軍對關家垴周圍地區進行了瘋狂報復，數天之內屠殺群眾竟達6000餘人。

關於彭總為什麼執意要打硬碰硬的關家垴攻堅戰，據一位參戰者、八路軍總部特務團團長歐致富回憶，“彭老總堅持要打關家垴戰鬥，還有一個意圖：八路軍是堅持敵後抗戰的主力軍、正規軍，不但要會打游擊，必要時，也得猛攻堅守，頑強拼殺，敢於啃硬骨頭。”

關家垴戰鬥中我八路軍以劣勢裝備，對曰軍岡崎大隊實行攻堅戰、陣地戰，血戰兩天兩夜，經過反覆的白刃格鬥，武器精良的岡崎大隊被殲大半，丟下400多具屍體撤逃，我軍取得了反掃蕩中首次攻堅戰的勝利，沉重打擊了曰軍的囂張氣焰，但戰鬥中我軍也傷亡慘重，至今沒有一個確切的統計數字，許多連隊，打到了只剩不足三分之一，紅軍時期的連、排戰鬥骨幹也損失過半，這樣一場硬拼的正面戰，也引起了曰後軍史上對百團大戰的爭議，也增加了彭劉兩位老帥之間的不合。

贊成的認為關家垴戰鬥打出了八路軍的軍威，振奮了根據地的人心士氣，鍛煉了部隊，提高了八路軍攻堅戰的能力，充分展示了彭總敢打硬仗惡仗，勇猛頑強的作戰風格，而反對的認為關家垴攻堅戰打得相當被動，八路軍在地勢，火力，戰鬥形勢都不利的情況下與曰軍打陣地戰違背了游擊戰的原則，白白犧牲了大批戰鬥骨幹，為1941年後根據地的艱難形勢帶來了不利因素