戰爭的空隙是短暫的。國民黨軍休整停當後，又於1946年春發起了新的攻擊。這次，林彪面臨的對手是在國民黨軍隊中有“小諸葛”之稱的桂系軍事領袖——白崇禧。

　　白崇禧也有“常勝將軍”的雅號，據說他從軍幾十年來還很少打過敗仗。白崇禧與杜聿明經過反覆商量，制定了一個“扇形攻勢”，計劃集結五個軍十個師的美式機械化部隊分南北兩路沿中長鐵路北上，首先攻奪南滿戰略要地四平，然後追擊撤退的共軍。蔣介石興奮
地說：“有‘小諸葛’居中調度，東北之戰完全可以畢其功於一役。”

　　對於東北，雖然獨占已不可能，但對於已奪之地域，毛澤東和中央作出了“寸土必爭”的決策。東北局在《東北大會戰部署》中，提出“此次作戰為決定我黨在東北地位之最後一戰”。“最後一戰”的口號在部隊廣為流傳，引起羅榮桓的警覺。他認為這種提法不妥：“如果打不贏，還要不要打第二仗、第三仗?我們是剛剛同敵人交手，怎麼能叫‘最後一戰’呢?”他寫信給林彪，明確提出：“東北戰爭要作較長時間的準備，不要把和平估計過急，而應發展全面工作，要全力支持這一長期戰爭。”

　　林彪不置可否，率領前總移往前線，就近指揮。

　　四平保衛戰從4月18日開始。敵新一軍在飛機和猛烈炮火掩護下，以新三十三師沿鐵路、新三十八師沿公路，向四平市區輪番進攻。我守城部隊為保一旅一個團和七縱即萬毅部的二個團，共六千人。敵人進攻延續數日之久，進展甚微。

　　為了加強對敵防禦和迂迴，林彪變防守為進攻，以進攻代防守。他命令山東一師、二師和華中三師八旅、十旅、獨立旅向四平方向西北延伸，以華中三師七旅加強七縱的防禦陣地，七旅原在城北三道林子的防務由長春南下的山東七師接管，形成以四平市區為中心，從東到西蜿蜒伸展百餘里長的防線，鉗制住了蔣軍的攻勢。到4月27日，雙方經反覆拉鋸戰，形成膠着對峙狀態。

　　在四平激戰期間，黃克誠從西滿打電報給林彪，建議適可而止，不能與敵人硬拼。他理由是：“敵人一開始進攻的時候，打它一下子，以挫敵銳氣，這是可以的。現在的情況是敵人傾巢而出，與我決戰，而我軍暫時尚不具備決戰的一切條件。因此應該把大城市讓出來，讓敵人進來，我們則應到中小城市及廣大鄉村去建立根據地，積累力量，等到敵人背上的包袱沉重到走不動的時候，我們再回過頭去消滅它，那時候我們就主動了。”

　　黃克誠連續給林彪發去好幾封電報，建議他從四平撤退。但林彪既不回電，也不撤兵。黃克誠無奈，又給中央發去電報，對堅守四平提出異議。中央同樣不予回答。

　　對於林彪和中央的態度，黃克誠感到萬分奇怪。這個謎團直到十四年後才解開。在廬山會議期間，毛澤東與黃克誠閒聊。黃克誠談到四平保衛戰林彪決策有誤。毛澤東問道：“難道四平保衛戰打錯了?”黃克誠解釋說：“開始敵人向四平推進，我們打他一下子，這並不錯。但後來在敵人集結重兵尋找我主力決戰的情況下，我們就不應該固守四平了。”毛澤東說：“固守四平當時是我決定的。”到這時，黃克誠才知道林彪不回電是有難言之隱。

　　其實，林彪並不想死守四平。從錦州開始，他就竭力避免與國民黨優勢兵力進行決戰，他的口號是“撤退、撤退、撤退”，“被動、被動、被動”。但是，中央不同意撤退。四平保衛戰期間，中央多次發來電令：“時局正在變化，望死守四平，寸土必爭”，“要打到敵人精疲力竭”。在一次電文中，中央甚至把四平保衛戰稱為“中國的馬德里”。

　　5月上旬，國民黨部隊又開始大規模進攻與四平毗鄰的本溪市。兵力已增加到十七個團。本溪是中共東北局等黨政軍機關的住地，僅有遼東軍區的十一個團防守，防禦面既寬且廣，外圍突擊力量薄弱，工事也不堅固，戰鬥形勢十分不利。5月2日，遼東軍區鑑於敵眾我寡，電告林彪，“死守本溪將是孤注一擲，對於長期鬥爭不利”。林彪同意遼東軍區撤出本溪。

　　進占本溪的國民黨軍隊迅速向四平集結。5月15日，白崇禧、杜聿明集中十個師的兵力，組成三個攻擊集群向四平街地區東北民主聯軍陣地發起全面進攻。

　　情況確是萬分危急，戰局的關鍵在四平右側的塔子山防線，這裡成為封閉東北聯軍的最後一個缺口。林彪電令三縱：“塔子山儘可能再支持一天。”不久，三縱回電：“新六軍攻占西豐、平崗後，於晚六時進占哈福站。”林彪厲聲重申：“再命塔子山守軍，至少明天要頂半天，不惜一切犧牲。”

　　林彪不顧中央電令，決心撤退，他把後方總政主任陳正人和野戰部隊政治部副主任陳沂叫到指揮部，口述《為撤退四平告全軍書》要點。他的心情十分複雜，說：“估計敵人明天就可占領塔子山，廖耀湘(新六軍軍長)必定要以全力攻塔子山。塔子山如失守，敵人就可以從我後側迂迴，封閉四平我軍的退路，那時我們就完全處於被動，且有被殲之危險。”

　　對這次戰鬥，林彪用“頑強”來形容：“我們已經大量消耗了敵人，並贏得了時間。我們的保衛戰是頑強的，特別是我們每一個部隊，都在一定程度上得到了鍛煉。”說到這裡，他忍不住長嘆一口氣，說：“只可惜我們後面沒有好好珍惜和利用這個時間。”看得出來，他對後方主持工作的負責人流露出強烈的不滿。他意味深長地對站在自己面前的所有人說：“和平空氣，在我們今天的東北是最害人的。我們對全部美械裝備的敵人還是估計不足，三縱的防線被新六軍迅速突破，影響保衛戰的全局，這是最大的教訓。”

　　林彪親自起草電文，向中央提出棄守四平。5月19日，中央終於發出了給林彪的撤退令：“如果你覺得繼續死守四平已不可能時，你應主動地放棄四平，以一部在正面遲滯敵人，主力撤到兩翼休整，準備由陣地戰轉變為運動戰。”

　　其實，早在5月18日當晚，林彪即指揮部隊且戰且走，開始大踏步後撤。

　　5月19日，彭真與羅榮桓趕到前總，找到林彪，隨後在公主嶺附近的范家屯開會，討論下一步行動計劃和作戰方針。會上，出現了兩種尖銳對立的意見。一種主張堅守長春，不能再退了；另一種主張果斷棄守長春，大踏步後撤，撤至松花江以北。

　　“固守長春，無異於劃地為牢。”林彪從軍事上舉出了一大堆理由：“長春人口九十萬，防線百餘里，需要大量的守軍。如果敵人先圍城，同時集中飛機、大炮、坦克掩護步兵攻擊一點，我軍則既不可能守住城市，又要喪失運動戰的機會。所以今後主力仍以打運動戰為好。”

　　林彪的意見沒有得到大家熱烈響應。四平血戰中，聯軍雖然殲敵萬人，但自己損失也達八千餘人之多。撤退中，聯軍又遭到國民黨軍機械化部隊的追擊，繼續受損，其中有一個師一個旅暫時失去作戰能力。各級指揮員中瀰漫着一種拼命情緒。彭真也不主張撤退過猛。

　　關鍵時刻，羅榮桓挺身而出，旗幟鮮明地支持林彪的意見。他說：“長春、吉林都是大城市，不利於防守，防線又寬，現在部隊打得很疲勞，如果守長春，敵人從梅河口沿奉吉線插到吉林，就會把我們的後方打個稀爛。到那時，不但長春防不住，非退到西滿和蒙古大沙漠不可。我贊成撤出長春，一直退到松花江以北。”

　　這種大規模的撤兵與中央當時指示的寸土必爭的指導思想大相徑庭。林彪於5月20日和27日，連續兩次發電報告中央，陳述自己的主張及其理由。他在電報中，特地提到羅榮桓已回到前線參予指揮，也同意他的意見。

　　撤兵的決定下達後，部隊許多幹部，包括高級幹部想不通，有怨言。羅榮桓逐個找幹部交換意見，要求他們服從林總的決策。

　　在羅榮桓的協助下，林彪處變不驚，應亂不慌，在十五天內，硬着頭皮把二十萬聯軍帶過了松花江，撤退到哈爾濱，成功地擺脫了國民黨軍隊的追擊。這十五天，是東北聯軍生死攸關、極為被動的日子。

　　“打了這麼多年的仗，還從來沒有這樣被動過。我們一個勁兒地撤，敵人一直在屁股後面追，就像拖了個尾巴。”羅榮桓不無憂慮地對林彪說。

　　林彪信心十足：“被動過後就會主動。過了江就主動了。”

　　“這仗打輸了。”林彪憤憤地說。作為負責前方指揮的一號首長，林彪感到深深的羞愧與屈辱。他把“白崇禧”和“四平街”幾個字刻進了腦海里。不久，當林彪得知白崇禧已經功成回南京述職，心中更加氣憤。“恨無時間，遂使豎子成名。”林彪發誓雪恥復仇。

　　得勝回朝的白崇禧胸中也涌動着遺憾和憤怒。同樣是憤懣不平，內容卻截然相反。二十年後，白崇禧在他的回憶錄中詳細追述了這件終身憾事：

　　先是中共林彪為共軍東北民主聯軍司令員，統率共軍十萬之眾，於三十五年三月中旬蘇聯紅軍撤出東北時，接收了關東軍軍械五十萬支，接着，乘國軍未開到之前，襲占四平街，終與國軍相持不下。當時，我奉令至四平街督戰，並速將林部擊退，繼占長春、吉林，本可就此乘勝追至佳木斯和滿州里，將林部殲滅或驅出東北境外，以永絕禍根。而中央忽令軍事歸杜聿明指揮，且軍隊不准越過遼河，理由為長春有六千蘇聯便衣紅軍，若我軍越過遼河，恐引起衝突。當我一到四平，下令繼續追擊時，杜聿明即出此命令予我。我說：“既是我下
令追擊，責任當由我負。”當時我一面去電向當局報告，同時乘飛機返京向蔣先生面陳云：“戰勝則當進，或迫其退出國境，或予以殲滅，蓋共軍已倉皇撤退，全無鬥志矣!”蔣先生道：“據報長春有六千着便衣的蘇聯紅軍，萬一肇事起衝突，怎辦?”我說：“共軍已潰退，多六千紅軍，亦不濟事。”蔣問：“若紅軍再來，如何?”我答曰：“此非我一人之責任，按撤兵規定，紅軍應已撤回，若紅軍再來，此乃聯合國之問題。”委座聽罷，當場不置可否。

　　翌晨，我搭機將行，蔣先生因重視此事，亦欲同往，遂同乘馬歇爾專機直飛瀋陽轉長春(當時國軍已到長春)。委座一見前方軍事進展順利，極為愉快。當時我即建議繼續追擊，並表示說，若東北剿赤完畢，可以少數部隊駐防，而先抽回五美械裝備師於華北助北平行營剿共，待事畢再行調回。蔣先生說：“6月1日國防部成立，你回去接事。你的意思，我交待杜聿明去做。”我說：“你在東北，我也在此!”他當即說：“你在此，若馬歇爾問你是否繼續追擊，你不好說話。你回去，我在這裡，可以推到我身上，所以你還是回去。”我只得返京就任國防部長。

　　此後，馬歇爾八上廬山，壓迫政府下停戰命令。杜聿明於哈爾濱停頓攻勢整編部隊，予共軍以喘息與反攻機會，大局遂逐漸於我不利，當時若長驅北進，直下東北，消滅林彪之大患，而後抽兵入關，如此於勘亂或稍可改觀。