五原誓師後，國民軍各部紛紛來投，計約集五、六萬人。其所屬各部是：第一軍軍長為陳希聖；第二軍軍長為方振武；第四軍軍長為徐永昌；第六軍軍長為石友三；第八軍軍長為韓復榘；第二師師長為孫良誠；第五師師長為馮治安；第七師師長為馬鴻逵；第十師師長為劉汝明；第十二師師長為孫連仲；騎兵第一師師長為張萬慶；騎兵第二師師長為趙守鈺。 　
　馮玉祥面對當時的局面，根據李大釗等共產黨人的建議和國民政府的要求，決定採取“平甘援陝，聯晉圖豫”的方針（當時閻錫山已被廣州國民政府任命為北方國民革命軍總司令）。在陝西，國民軍第三軍第三師楊虎城部和陝西軍務督辦李雲龍的第十師等部，被吳佩孚的劉鎮華部七萬軍隊圍困已達八個月之久，西安城戰況危急。馮玉祥命令佟麟閣、孫連仲兩師入甘肅，幫助在甘肅的孫良誠、張維璽部肅清了吳佩孚的勢力，隨後入陝。又命韓復榘等部進駐寧夏，徐永昌率部入晉，歸閻錫山指揮。11月下旬，國民軍聯軍孫良誠、方振武、馬鴻逵、劉汝明、孫連仲等部合擊劉鎮華軍，使劉軍全線潰退。11月28日，西安之圍得以解除。國民軍聯軍接着分數路乘勝追擊，“援陝”終成定局。 　
　1927年5月，國民軍聯軍被編為國民革命軍第二集團軍，馮玉祥出任總司令。馮玉祥為了“圖豫”，重新部署軍隊，分六路出兵，與北伐軍呼應，連克洛陽、孟津、偃師、孝義等。5月31日，馮軍打到鄭州、6月1日，北伐軍劉興部也到達鄭州。至此，第二集團軍與北伐軍終於在中原會師，馮玉祥也達到了“圖豫”的目的，馮軍又發展到二十多萬人，自南口重創後得到復甦。 　
　1927年3月，東路北伐軍攻至上海。3月26日，蔣介石到達上海後，即與帝國主義、買辦資產階級密謀，舉行反革命政變。4月2日開始，蔣介石多次與李濟深、李宗仁、白崇禧、黃紹竑、吳稚暉、張靜江等舉行秘密會議，謀劃反共清黨。4月12日，上海反革命政變開始。隨後，在南京另立了以蔣介石為首的國民政府。 　以汪精衛為首的武漢國民政府，當時由國民黨左派及共產黨所把持，堅決與南京國民政府對抗，怒斥蔣介石的反革命行為。但是武漢國民政府受到四面軍事包圍和經濟封鎖。汪精衛、唐生智等人認為繼續北伐，與馮玉祥會師中原，再北聯閻錫山共討奉張，最後解決寧漢對立問題較為有利。蘇聯顧問鮑羅廷亦認為進軍河南，把馮玉祥從陝西接出來，打通自西北往蘇聯的交通線才有出路。中共領導人陳獨秀亦贊同首先北伐。1927年4月19日，武漢北伐軍在武昌南湖誓師，以唐生智為總指揮，張發奎、劉興等率軍北上，終於在6月1日與馮玉祥部會師鄭州。 　　由於寧漢對立，武漢國民政府有後顧之憂，難以繼續北伐；而馮玉祥則希望以“繼續北伐”來擺脫自己軍隊單面禦敵、受奉魯軍閥威脅的困境，積極促成寧漢合作。1927年6月10日，馮玉祥與汪精衛、譚延闓、唐生智、徐謙、孫科等人在鄭州舉行秘密會議。會議決定公開反共，主張寧漢協調一致，將武漢政府和南京政府相“統一”。會後，唐生智帶領北伐軍由河南退回武漢，鎮壓工農運動。而馮玉祥則去徐州，和蔣介石密商武漢與南京的合作問題。 　
　1927年6月20日至21日，馮玉祥與蔣介石在徐州召開反共會議，參加會議的除馮玉祥、蔣介石外，還有胡漢民、李宗仁、張靜江、白崇禧等人。會議主要討論了政治、軍事及黨務問題，會議的核心是蔣馮合作。會議確定了反共、反蘇、寧漢合作的方針。蔣馮聯合北伐，共同“清黨”，從1927年7月起，每月接濟馮玉祥部軍餉250萬元。馮玉祥立即致電汪精衛、譚延闓等人，要求速將蘇俄顧問鮑羅廷解職歸國，力勸汪精衛與蔣介石通力合作，努力推進反共和北伐大業。蔣馮還聯名發表通電，表示意見完全一致。這次會議為“清黨”反共作了準備。1927年7月15日，汪精衛在武漢發動反革命政變。至此，國民黨反動派公開破壞了革命的統一戰線，全面“清黨”反共。 　
　寧漢雖然合流，但國民黨內部並未能統一，武漢的汪精衛、唐生智以國民黨“正統”自居，力主倒蔣；桂系李宗仁、白崇禧等勾結各方勢力，乘蔣介石嫡系部隊在外之機，武裝控制南京。蔣介石內外交困，決定採取以退為進的辦法解脫困境，於8月12日辭去國民革命軍總司令職，離開南京經上海回奉化原籍。這樣，國民政府的“繼續北伐”仍未能實現，馮玉祥只得在河南、陝西一帶孤軍作戰。 　
　為了鞏固陝、甘後方，加緊削剪各地異己，馮玉祥與陝軍田玉潔等部的衝突日益加劇，10月，爆發了涇原之戰。馮玉祥派宋哲元率部平息了田玉潔等部的叛亂。在河南，馮玉祥於10月之後先後發動了兩次蘭封戰役，消滅了豫東、豫北的直魯軍。馮玉祥在戰局危急的情況下，多次向寧漢雙方請援，但未見派來一兵一卒。馮軍在糧彈俱缺的困苦中，只能依靠自己的力量對付數倍於己之敵。馮玉祥考慮到整個軍事戰局要有個統一的指揮，於是聽信孔祥熙的遊說，聯合閻錫山電請蔣介石出山。1928年1月4日，蔣介石宣告復職。 　
　1928年2月2日至2月7日召開的國民黨二屆四中全會通過了進行第二次北伐的決議。之後，蔣介石將原第一路軍、西北國民軍、北方國民軍、兩湖地區的部隊改為第一、二、三、四集團軍，蔣介石、馮玉祥、閻錫山、李宗仁分任總司令。其部署是：以何應欽為北伐軍總參謀長，留守南京；第一集團軍沿津浦線北進；第四集團軍沿京漢線北進；第二集團軍在京漢、津浦線之間，分為魯西、直南兩個集團北進，策應一、四集團軍；第三集團軍由京綏、正太兩線向東攻占保定、石家莊，再轉攻京漢線；然後四路會攻京、津。 　
　4月5日，北伐軍在徐州誓師。4月9日，蔣介石下達總攻擊令，四路集團軍分別出動。4月22日，蔣、馮兩軍在泰安城外會師，27日占領泰安。5月1日，蔣軍占領濟南，張宗昌、孫傳芳部遭受沉重打擊。5月3日至11日，日軍出兵干涉，製造了濟南慘案，阻止北伐軍前進。南京國民政府決定對日妥協，繞過濟南繼續北伐。5月21日，蔣介石、馮玉祥、白崇禧在鄭州會商軍事，決定各集團軍於25日前全線進攻。之後，北伐軍先後攻占邯鄲、保定、大同、石家莊、張家口等地。6月1日，北伐軍由津浦、京漢、京張線向着京津地區推進。在日本帝國主義壓力下，南京國民政府與張作霖談判達成協議，張作霖退往關外，北伐軍和平占領京津。6月3日，張作霖退出北京，6月4日在皇姑屯被日軍炸死。同日，南京國民政府任命閻錫山為京津衛戌總司令，張蔭梧、傅作義分任北京、天津警備司令。6月15日，南京國民政府發布宣言，宣布“統一告成”。6月21日，國民黨中央政治會議決定改直隸省為河北省，以商震為省主席，並改北京為北平，北平、天津均為特別市。 　
　隨着第二次北伐的成功，馮玉祥的部隊亦空前地壯大，編制番號達到九個方面軍，三十二個軍，八十一個師，還有其他地方軍隊。光是馮玉祥的嫡系部隊，人數已達到四十萬。這九個方面軍的總指揮分別是孫良誠、孫連仲、韓復榘、宋哲元、岳維峻、石敬亭、劉郁芬、劉鎮華、鹿鍾麟。第二集團軍參謀長是曹浩森。馬鴻逵、石友三、韓占元、秦德純、馮治安、馬鴻賓、李雲龍、井岳秀、吳新田、楊虎城、佟麟閣、張維璽、劉茂恩、萬選才、劉汝明、龐炳勛、呂秀文、王鴻恩、劉驥、鄭大章、席液池、梁冠英、吉鴻昌、耿幼麟、高樹勛、曹福林、孫桐萱、周永勝、鄧寶珊、孫蔚如、馮欽哉、武庭麟、馬法五、肖之楚等著名的將領都是當時馮玉祥屬下的軍、師長。 　
　國民黨的北伐結束後，馮玉祥和蔣介石的合作也很快結束了。在戰後劃分地盤時，蔣介石將馮軍在戰爭中付出重大犧牲奪回的原來的“屬地”平、津和河北劃給了閻錫山，使馮玉祥大為不滿。蔣介石又排斥和控制馮玉祥在山東的勢力，從而加劇了馮玉祥與蔣介石及閻錫山的矛盾。馮玉祥知道與蔣、閻的衝突在所難免，加緊鞏固自己的陝、甘後方。1928年8月，留守後方的馮部第四方面軍總指揮兼陝西省政府主席宋哲元，率部圍攻陝西的地方軍閥，攻破黨玉琨據守的鳳翔城，擊斃黨玉琨，俘虜五千多人。宋哲元命令將全部俘虜殺絕。除第十七師師長趙鳳林暗自將本師所俘的一千多人釋放外，其餘四千多人全遭殺戮。鳳翔大屠殺，成為中國近代軍閥混戰史上最殘酷的一次血腥事件。此外，第七方面軍總指揮兼甘肅省政府主席劉郁芬，於11月率部平息了馬仲英等部的河州事變，結束了甘肅自民國初年來八鎮割據的局面。 　
　29年1月，國民黨各派在南京召開了全國編遣部隊的會議，馮軍作為蔣、馮、閻、李四大軍事集團中兵力最雄厚的一支而遭到蔣、閻的嫉視。蔣介石、閻錫山合夥炮製了一個不利於馮玉祥的方案，馮玉祥因此稱病不出席會議並秘密離開南京回到河南輝縣百泉村。於是，蔣、馮的矛盾公開化了。 　
　還未及蔣介石與馮玉祥的直接衝突，以李宗仁、白崇禧、黃紹竑為首的新桂系與蔣介石為爭奪地盤而率先矛盾激化，蔣介石以行政院長和兩湖地盤為條件，拉攏馮玉祥出兵14萬相助。1929年3月26日，南京國民政府下令討桂，組成“討逆軍”，由蔣介石兼任總司令，何應欽任參謀長，朱培德任前敵總指揮，分三路進攻。第一路軍由朱培德兼總指揮，率部由江西攻鄂南；第二路由劉峙為總指揮，率部從安徽沿長江西攻武漢；第三路軍由韓復榘為總指揮，率西北軍一部由河南信陽沿平漢線南攻武漢。3月30日，蔣介石下達總攻令，蔣桂戰爭爆發。 　
　在戰爭開始後，馮玉祥暗中應諾李宗仁“出兵三十萬相助”，但他卻在等待觀望，既不出兵助桂，也不發兵助蔣，以期在蔣介石戰敗後再坐收漁人之利。不料桂系因李明瑞部被蔣收買而很快潰敗，馮玉祥投機不成，只得起兵助蔣討伐李宗仁。然而，他也不知道，自己的部將韓復榘在戰爭中也被蔣介石暗暗收買過去了。 　
　蔣桂戰爭中以桂系的失敗而告終，蔣介石收編了李宗仁的第四集團軍，李宗仁、白崇禧、黃紹竑通電下野。蔣桂戰爭結束後，蔣介石並不履行對馮玉祥的諾言，積極進行討馮的軍事部署。同時散布馮玉祥勾結蘇俄的謠言，發表《和平統一為民國政府唯一之願望》的文章，宣稱“欲消弭內亂，非剷除軍閥不可，欲剷除軍閥，非根本撲滅封建地盤思想不可。”為討馮作輿論準備。又多次邀馮進京議事，企圖予以誘捕。閻錫山也乘機配合蔣介石的行動，準備襲擊馮軍背後。 　　1929年5月中旬，馮玉祥在華陰召開會議，決定武裝反蔣，自任護黨護國軍西北路總司令。為集中兵力，防止腹背受敵，會議決定縮短戰線，收縮兵力，把山東、河南駐軍全部西撤，集中在豫西、陝西待命。然而，這一“集結兵力，縮短防線”的部署並不能使一些部將所接受，蔣介石也加緊拉攏馮軍將領。待馮軍行動伊始，便先後有韓復榘、石友三、劉鎮華、楊虎城、馬鴻逵等部叛馮附蔣，使馮玉祥軍力大損。5月23日，蔣介石委任唐生智為討逆軍第五路總司令，引誘唐率部攻馮。同日，國民黨中央常務會議決定撤消馮玉祥的一切職務，永遠開除國民黨黨籍。5月24日，南京國民政府下令查辦馮玉祥。在蔣介石的強大壓力下，馮玉祥採取了以退為進，避戰自守的策略，於5月27日通電下野，聲稱入華山讀書。馮軍據守潼關，只守不攻，使蔣軍失去進攻口實。 　
　與此同時，馮玉祥派人會晤閻錫山共同反蔣。蔣介石則拉攏閻錫山抑制馮玉祥。閻錫山有他的算盤，揚言與馮相偕出洋，企圖誘馮入晉，挾馮以自重，向蔣討價還價。為聯閻討蔣，馮玉祥於6月24日到達太原。閻錫山對馮玉祥虛以委蛇，不與馮商討反蔣之事，並向南京報告馮在太原的情況。6月30日，閻錫山親到北平會晤蔣介石。蔣口頭委任閻為全國陸海空軍副總司令，蔣、閻達成了共同制馮的秘密協定。閻錫山回晉後，改變了對馮玉祥的態度。7月7日，閻錫山將馮玉祥誘騙到五台建安村加以軟禁。 　
　馮玉祥見蔣、閻已有勾結，暗中通知西北軍將領，要他們向南京方面靠攏，表示西北軍接受中央指揮。蔣介石也想趁機拉攏控制西北軍，先後派于右任、賀耀祖到西安慰勞和點編西北軍，供給軍餉。不久，又任命鹿鍾麟為軍政部長。閻錫山見此情形，頗為恐慌，深怕西北軍與蔣介石合作，聯合對付他。同時，在8月，全國第二次編遣會議召開，情況對他不利，所以，閻錫山主動改變對馮玉祥的態度，於中秋之夜親自前往建安村，向馮玉祥賠禮道歉，共商聯合反蔣之計。馮玉祥當即表示，願捐棄前嫌，合作反蔣。雙方約定，先由西北軍發動討蔣，晉軍再起而響應。 　
　10月10日，西北軍宋哲元等通電討蔣，兵分三路進攻河南，蔣馮大戰爆發。10月11日，蔣介石下討伐令，並親自指揮，以朱培德為參謀總長，派遣唐生智、方鼎英、劉峙、楊森等部分兵五路迎戰。正當蔣馮兩軍激戰之際，閻錫山卻按兵不動。蔣介石見有隙可乘，於10月28日，正式任命閻錫山為全國陸海空軍副司令，並請他就近負責處理西北問題。閻錫山名利雙收，再次倒向蔣介石一邊，作出部署，限制西北軍行動，西北軍孤立無援，12月1日，退回潼關。而馮玉祥也再次成為閻錫山的階下囚。 　
　李宗仁及馮玉祥相繼失勢，蔣介石又把矛頭指向閻錫山。1930年1月，閻錫山與蔣介石矛盾激化，雙方以電報形式進行論戰，互相責罵。一時間，全國反蔣派代表紛紛雲集太原，表示願意擁戴閻錫山為反蔣領袖。馮玉祥趁機密召鹿鍾麟，令其再次主動與蔣介石聯絡。閻錫山聞訊，當然不希望西北軍與蔣介石聯絡。閻錫山決定與馮玉祥和好，攜手反蔣。2月26日，閻錫山再次親赴建安村，向馮玉祥賠禮道歉。對閻錫山的所為，馮玉祥氣憤異常，但他深知要反蔣，必須同閻錫山結成聯盟。所以，他當即表示不記前嫌，並願意擁閻為全國軍政領袖。2月28日，閻、馮自建安村回到太原，與各方代表進行廣泛磋商，形成了反蔣聯合戰線。3月8日，馮玉祥回到陝西，主持軍事。
　　馮系軍閥集團雖然在中原大戰中失敗瓦解，馮軍中的重要將領如鹿鍾麟、宋哲元、孫良誠、孫連仲、劉汝明、馮治安、秦德純、龐炳勛、楊虎城、吉鴻昌等部先後投至蔣介石麾下，但由於馮玉祥治軍嚴明，與其他軍閥武裝比較，馮軍的革命性最突出，在其後發生的一些重大事件中，馮軍舊部仍發揮了重要的積極的作用，這裡舉出幾例：

　　1933年3月，日本侵略軍在占領了東北三省及熱河之後，向長城各口大舉進攻。駐守長城一線的中國軍隊，奮起抵抗。由西北軍改編的第二十九軍，在軍長宋哲元的指揮下，在喜峰口浴血奮戰。第二十九軍將士面對日軍飛機、裝甲車和大炮的猛烈轟擊，在冰天雪地里，憑藉手榴彈和大刀，沉着應戰，拼死肉搏，使喜峰口失而復得。第一O九旅旅長趙登禹帶傷出擊，率眾與敵肉搏相拼，打得日軍膽戰心驚。喜峰口之役是長城抗戰中最悲壯的一曲。

　　1933年5月，馮玉祥、方振武、吉鴻昌在中國gong產黨推動下，以西北軍舊部為基礎，在張家口成立了察哈爾民眾抗日同盟軍，由馮玉祥任總司令，方振武任前敵總司令，吉鴻昌任前敵總指揮。同盟軍得到全國人民的擁護和支持，很快發展到十餘萬人。6月下旬，同盟軍北進抗敵，連克康保、寶昌、沽源等地。7月12日收復多倫，將日偽軍逐出察哈爾省，隨即準備進兵東北。7月下旬，蔣介石誣馮玉祥擅立軍政，並勾結日軍夾攻同盟軍。8月9日，馮玉祥被迫撤銷同盟軍總部。方振武、吉鴻昌率部繼續抗日，但在日蔣軍夾擊下，終因彈盡糧絕，於9月底失敗。方振武，安徽壽縣人，1885年生，早年參加辛亥革命及討袁戰爭，後入張宗昌部，1925年12月投靠馮玉祥，抗戰失敗後流亡外國，後避居香港。1941年12月香港被日軍占領，化裝潛回廣東，在中山縣境內被國民黨特務逮捕殺害。而吉鴻昌被迫轉入地下，繼續抗日鬥爭。因吉鴻昌在1932年加入中國gong產黨，蔣介石欲置之死地。1934年11月，吉鴻昌在天津法租界被捕，11月24日在北平陸軍監獄英勇就義，留下了“恨不抗日死”（〈〈就義詩〉〉）的悲憤遺言。吉鴻昌，河南扶溝人，1895年生。1913年十八歲時入馮玉祥部當兵，後逐級升至軍長，他已作為抗日英雄而長留史冊。

　　1936年12月12日，爆發了震驚中外的西安事變。發動西安事變的，是東北軍首領張學良和第十七路軍總指揮楊虎城兩將軍。楊虎城，陝西浦城人，1893年生。早年參加辛亥革命和護國戰爭。1924年後追隨馮玉祥，歷任國民三軍第三師師長，國民聯軍第十路總司令。1929年投靠蔣介石，歷任新編第十四師師長，第十七路總指揮，陝西省主席，西安綏靖公署主任等。楊虎城及由西北軍改編的第十七路軍官兵，因參與西安事變而名垂史冊。西安事變之後，楊虎城被迫辭職。1937年6月，蔣介石令其“出洋考察”。七七事變後，楊虎城欲返國參戰，但遭到蔣介石拒絕。11月回國，即被逮捕，先後被囚禁於南昌、長沙、益陽、息烽、重慶等處，前後達十二年之久。1949年9月17日，楊虎城被殺害於重慶中美合作所監獄，同時被殺的還有其妻、子、女、秘書夫婦、副官、警衛多人。

　　1937年，北平、天津處於日軍勢力三面包圍之中，僅西南一角尚在中國軍隊控制之下，盧溝橋位於平漢路上，是北平通往內地的唯一門戶。7月7日晚，蓄謀已久的日軍駐豐臺的一個大隊在盧溝橋附近進行挑釁性實彈演習。深夜十一時許，日軍詭稱聽到宛平城內有槍聲，演習部隊失蹤士兵一名，而無理要求入城搜索，當即遭到中國守軍拒絕。日軍星夜調集部隊包圍宛平城。次日晨五時，當中日聯合調查組在宛平城會商調查辦法時，日軍突然鳴槍開炮，進攻宛平城。駐守盧溝橋的宋哲元第二十九軍，奮起自衛反抗，這就是盧溝橋事變，又稱七七事變。事變後，第二十九軍在北平南宛英勇抗敵。7月28日，副軍長佟麟閣、第一三二師師長趙登禹壯烈殉國，是抗日戰爭為國捐軀的第一、二位高級將領（趙犧牲在前）。佟麟閣是河北高陽人，1892年生，1912年入馮玉祥部；趙登禹是山東荷澤人，1898年生，1914年入馮玉祥部。佟、趙兩將軍是馮玉祥的多年部屬，兩人犧牲後，馮玉祥異常悲憤，寫了〈〈吊佟趙〉〉一詩悼念。南宛抗戰，第二十九軍gong犧牲了一千多名將士。第二十九軍軍長宋哲元，山東樂陵人，1895年生，早年入馮玉祥部，後成為馮系重要將領。中原大戰後，歷任第二十九軍軍長，察哈爾省主席、平津衛戌司令、冀察政務委員會委員長、河南省主席、冀察綏靖公署主任等。南宛抗戰後，曾任第一集團軍總司令。後因病休養，1940年4月5日在四川綿陽病逝。宋哲元曾製做“鳳翔大屠殺案”而遭唾罵，但也因其抗日功績而名垂青史。
　　此外，馮軍將領鹿鍾麟、孫連仲、馮治安、劉汝明等在抗日戰爭中都擔任了戰區司令長官或集團軍總司令等重要職務，為民族抗戰立下功勳。鹿鍾麟、張之江等在新中國成立後留居大陸，成為著名的愛國民主人士。

　　當然，馮軍畢竟屬軍閥武裝集團，成分比較複雜，也出現了一些民族敗類，如馮軍重要將領韓復榘，在抗戰爆發後，為保存實力，接連放棄濟南、泰安、濟寧，退往魯西南，後被蔣介石處決。而劉郁芬、孫良誠、石友三、龐炳勛、門致中、張維璽等，更在抗戰中、後期投降日偽，當了漢奸。

　　至於馮玉祥本人，自中原大戰後沉寂隱居。1931年九一八事變後，他力主抗日，反對蔣介石對日妥協政策。同年12月，被選為國民黨第四屆中央執行委員、國民政府委員。1932年3月，馮玉祥移居泰山，奮發讀書，探索救國救民的道理。1933年5月，他和gong產黨合作，聯同舊部方振武、吉鴻昌等在張家口組織察哈爾民眾抗日同盟軍，出任總司令，率部奮力抗出日偽侵略軍。後因蔣介石的破壞和逼迫，於8月去職，再上泰山。1935年9月，蔣介石為了裝點門面，偽裝抗日，以息眾怒，電請馮玉祥出山。馮玉祥為團結抗戰起見，於11月1日下泰山赴南京。12月中旬，馮玉祥出任國民政府軍事委員會副委員長。

　　抗日戰爭爆發後，馮玉祥先後出任第三、第六戰區司令長官，在淞滬和津浦線北段指揮抗日。但後被蔣介石撤銷指揮軍隊作戰權，在武漢、重慶擔任閒職。抗戰勝利後，馮玉祥隨國民政府回到南京。馮玉祥不滿蔣介石的高壓恐怖政策及企圖發動內戰消滅gong產黨的所為，提出以考察水利為由赴美國。蔣介石也樂得馮玉祥出洋，便給了他一個“水利特使”的銜頭，強令其退伍，離開軍界。1946年9月2日，馮玉祥偕妻兒、秘書及一水利小組離上海乘船赴美。

　　1947年5月開始，國內掀起了聲勢浩大的愛國民主運動，蔣介石悍然發動內戰，馮玉祥中止了水利考察，留居紐約，不斷公開發表抨擊南京政府和蔣介石，要求停止內戰的言論。1948年初，馮玉祥參加了中國國民黨革命委員會，並被推為該黨中央政治委員會主席。1月7日，馮玉祥被南京國民黨中央開除黨籍。同年7月，馮玉祥響應中國gong產黨號召，離開美國經蘇聯回國參加新政治協商會議籌備工作。9月1日，因所乘勝利號輪船在黑海失火，馮玉祥不幸遇難。

　　馮玉祥的遺體在蘇聯敖德薩火化，1953年10月15日，馮玉祥的骨灰安放在泰山由人民政府建造的馮玉祥將軍陵墓。這位貧民出身，由小兵升至一級陸軍上將的舊軍人，由於他最終成為真誠的愛國者，堅決抗戰的民族英雄、反對獨裁內戰的以身殉國的民主鬥士，因而永遠受到人民的懷念和景仰。