1931年10月，叛軍張海鵬派徐景隆率3個團從白城子出發向江橋進犯，15日到泰來，日軍飛機飛抵龍江上空助威。16日拂曉，叛軍進抵江橋南端，在戰鬥轟炸機的支援下，與守軍徐寶珍部發生激烈戰鬥，其3個團在守軍的反擊下傷亡慘重，一齊潰退，在江橋以南地區與守軍對峙。守軍遂將江橋破壞3孔，阻止日軍再犯。

1931年10月16日，馬占山接到張學良任命其代理黑龍江省主席、軍事總指揮的電令後，立即從黑河晝夜兼程前往省城，19日15時抵松浦後，即乘火車於當夜到達省城齊齊哈爾市。20日上午就任黑龍江省代主席，親赴前線激勵抗日將士，同時發布告懸賞索取張海鵬首級，並宣布成立黑龍江軍臨時總指揮部，以便統一指揮。馬占山任總指揮，以副司令公署參謀長謝珂任副指揮。

1931年10月22日，馬占山針對日軍集結重兵妄圖侵占黑龍江省事發表宣言：“與此國家多難之秋，三省已亡其二，稍有人心者，莫不臥薪嘗膽，誓求危亡，雖我黑龍江一隅，尚稱一片乾淨土……爾後凡侵入我省者，誓必死一戰”。馬占山在聽取謝珂等將領關於江橋作戰情況的報告後，立即調整了部署：委朴炳珊為省城警備司令，以加強省城防衛；任王南屏為黑河警備司令，接替馬占山的遺缺；將東北屯墾軍3個步兵團、1個騎兵團、1個炮兵營編為步兵第1旅，開駐大興以南布防。其中騎兵到富拉爾基以西對景星方向警戒。至1931年10月29日，基本完成了從江橋到榆樹屯和昂昂溪的以鐵路為軸線，縱深約40公里、寬約10公里的三道防禦阻擊陣地布置。

原寧安公安總隊長劉萬魁率所部1000餘人，於15日在寧安以西接受整編，整編為自衛軍第五獨立團。

1931年11月2日，本庄繁令齊齊哈爾日本特務機關長林義秀向馬占山發出最後通牒：馬占山軍在1931年11月3日正午前必須自嫩江鐵橋後撤至10公里以外地區，在日軍修橋完竣之前不得進入該地區；如不接受上述要求，則日軍將使用武力。馬占山決定對日軍修橋不予干涉，但如進攻中國軍隊，則採取自衛措施。

1931年11月4日上午，日嫩江支隊先遣中隊在飛機掩護下從江橋車站北進，通過嫩江橋後向大興車站以南的中國軍隊陣地進攻。是時馬占山衛隊團徐寶珍部、張競渡部共2700人奮起迎擊，將敵擊退。下午，日軍集中兵力約4000餘人，由濱本大佐指揮，在飛機坦克和重炮掩護下向江橋發動進攻。日軍先突入江橋左翼陣地，繼而向江橋正面大興線主陣地猛攻。中國守軍奮起還擊。日軍一度突入我陣地，雙方展開白刃戰，日軍不支遂撤向江岸，遭到預伏在蘆葦中的中國軍隊截擊。此時，日軍援軍趕到，在立足未穩之際又被守軍騎兵夾擊，被迫退回。戰到20時，日軍敗退遣屍400餘具。是日夜，日軍連續炮擊後乘船百隻偷襲，待船近北岸時，潛伏在蘆葦內的中國軍隊突然開火，日軍死傷落水者眾，余皆退回。此日中國軍隊傷亡300餘人，日偽軍傷亡1000餘人。日軍集中兵力，在飛機和炮兵的支援下連續進攻，均被守軍擊退。日軍低飛投彈的飛行員大針新一郎中尉亦被擊傷。

1931年11月5日上午，日軍集中全力再次發動進攻。戰鬥極為激烈。上午6時，日軍以數十門大炮對守軍陣地炮擊。7時，日偽軍8000餘人在大炮和飛機掩護下，日軍從中路、偽軍從左右兩路渡江。當船到江心時，中國軍隊猛烈還擊，日偽軍雖傷亡很大仍掙扎強渡。10時，日軍占領江岸第一線陣地，守軍分撤至左右兩翼陣地，日軍繼而向第二道防線大興陣地猛攻，遭到守軍頑強抗擊。 中午，馬占山趕到前線指揮吳德霖團和徐寶珍團從正面反攻，急調騎兵第1旅薩布力團從兩翼包抄日軍。從15時血戰到日暮。日本人承認：“中國軍隊用步兵及騎兵實行包圍式反攻，日軍蒙受極大之損失，而不得不向後撤退（見國聯調查團報告書嫩江橋之役）。”日軍被迫向後撤退，由進攻轉為就地防禦，其後方勤務分隊大部被我迂迴的騎兵所殲滅。

此戰，中國軍隊傷亡200餘人，日軍死亡167人，傷600餘人。

當日夜，日軍第29聯隊的1個大隊前來增援，到達後立即發動進攻，但很快亦被馬占山軍所包圍。本庄繁再急調第16聯隊的1個步兵大隊和3個炮兵中隊來援。

1931年11月6日晨，日軍增援部隊到達，在飛機輪番掃射、轟炸支援下發動猛攻，試圖解救被圍日軍。當日，馬占山親自到陣地督戰。雙方傷亡均眾。日軍在馬占山軍的頑強抗擊下，攻擊受挫，進展困難。本庄繁當即又令第2師團多門二郎率在瀋陽地區的第29聯隊、騎兵第2聯隊、野炮兵第2聯隊、臨時野戰重炮兵大隊、工兵中隊和混成第39旅團的1個大隊急開江橋附近增援，對守軍進行強攻並占領大興主陣地。中國軍隊拼命衝殺，白刃格鬥殺聲震天，幾次奪回失去的陣地。此日中國軍隊傷亡1850餘人，斃日偽軍2000餘人，擊落飛機1架。日軍濱本支隊幾乎被全殲，高波騎兵隊傷亡殆盡。

由於士兵連戰三日兩夜，無援軍替換，異常疲睏；加之大興陣地已被摧毀，馬占山將軍下令將主力撤至距大興站18公里的三間房第二道陣地，以騎兵第1旅與步兵第1旅重新組織防禦。

7日晨，大批日偽軍在10架飛機掩護下，向三間房南湯池猛攻。馬部張殿九旅和蘇炳文旅1個混成團趕到反攻，戰至午後將日偽軍擊退。此戰中國軍隊傷300餘人，斃傷日軍600餘人、偽軍千餘人。尤其值得稱道的是，當敵機連續俯衝掃射、狂轟濫炸而我方完全沒有高射炮火攔擊的被動局面下，智勇雙全的將士們竟表現出了驚人的聰明才智，“以20人為一組，仰臥地上，用步槍向上射擊”，創造性地擊落了敵機一架。事後檢查其殘骸“兩翼有26個子彈洞”，是為中國對日作戰史上所擊落的第一架敵機。以此之故，在後來的戰鬥中，日本飛機再也“不敢低飛。”見日軍損失慘重，本庄繁下令多門二郎停止前進，返回原駐地。

日軍為掩蓋自己失敗的真相，散布蘇聯向黑龍江守軍提供彈藥的謠言，還以各種謊言遮掩日軍損傷數目，唯恐日本國內反戰勢力占上風。馬占山曾通電駁斥日軍謠言。

日軍在第一階段作戰中傷亡很大，為儘快打破僵局抓緊調兵遣將，極力準備再次進攻。同時通牒馬占山進行施壓，要求其立即下野、讓出權力並撤出在齊齊哈爾的中國軍隊，遭到馬占山的斷然拒絕。關東軍向日本陸軍中央部提出速增派一個師團的兵力。本庄繁下令“第2師團全力向大興方面集結”。至11日，日軍在嫩江北岸有長谷旅團司令部、步兵第16聯隊、第4聯隊(欠第3中隊)、第29聯隊第1大隊(欠第3中隊)、騎兵第2聯隊及配屬的第28聯隊之第2中隊，野炮兵第2聯隊’(欠第8中隊)，工兵第2中隊。嫩江南岸有野戰炮兵第26聯隊第3大隊、臨時野戰重炮兵大隊等，總兵力超過3萬人。

針對日軍的調兵遣將，1931年11月7日晚，馬占山主持召開軍事會議，研究應敵措施並確定調整部署，重新設置三道防線。第一道防線在湯池、烏諾頭、新立屯一帶，其前線陣地在後依里巴、前官地、後官地等地，由騎兵第1旅吳松林部兩個團防守。14日後騎兵第2旅程志遠部全部投入湯池等地戰鬥。第二道防線在英老墳、三間房、大興屯、小興屯、霍托氣等地，是黑軍正面防禦的主陣地，由暫編第1旅苑崇谷部4個團、步兵第2旅吳德林團、步兵第3旅李青山團、騎兵第1旅王克鎮團、朴炳珊炮兵團，還有工程兵等保障分隊防守。14日後，步兵第1旅孫洪裕團和綏化保安大隊2000人加入正面防禦作戰。第三道防線在朱家坎、富拉爾基、昴昴溪、榆樹屯等地，由步兵第1旅張殿九部2個團、騎兵2旅全部和衛隊團防守。總兵力1.3萬餘人。

三間房是洮南至昴昴溪鐵路線上的一個車站，北距齊齊哈爾70里，南距嫩江橋60里，是中國軍隊保衛黑龍江省省會的重要防禦陣地。日軍要侵占黑龍江省必占三間房才能直達齊齊哈爾。因此，爭奪三間房就成江橋之戰第二階段的焦點。

1931年11月12日上午，日軍先頭部隊步騎兵500人向馬占山部前沿陣地前官地、後官地、張花園進攻，守軍吳松林部奮起抗擊。戰至13時，陣地被日軍占領，守軍600餘人撤向第一線陣地。

1931年11月13日晨5時，日軍500餘人在兩架飛機配合下，向新立屯進攻，遭到守軍反擊，戰到10時，被守軍擊退。當日中午，被炸壞的嫩江橋修復，為日軍大規模進攻提供了有利條件。中午，關東軍司令本庄繁第三次下達增援令：“將第2師團剩餘部隊及混成第39旅團的步兵3個大隊，及救護班派往大興附近”，並令第2師團長多門中將一併指揮嫩江支隊。日軍大本營急增3個飛行隊至黑龍江省，並把準備在大連登陸的第4混成旅團改在朝鮮釜山登陸，進快進抵黑龍江。下午，日軍步騎兵3000餘人在炮兵配合下向湯池、烏諾頭、新立屯發動猛攻。守軍奮起抵抗，戰至午夜12時，日軍占領烏諾頭。

1931年11月14日晨日軍在兩架飛機和重炮掩護下向湯池陣地猛攻，被馬占山部擊退。10時許，日軍2000餘人在長谷指揮下，分步、騎兩支部隊，採用大包圍的戰術，從左、右兩個方向攻擊湯池，馬軍且戰且退，激戰至15日晨，日軍攻至拴馬。馬占山早已令兩個騎兵團悄悄包抄敵兩翼，一聲令下，正面衛隊團首先沖入日軍陣地，騎兵團從兩翼呼嘯而至，日軍倉皇撤退。馬占山部繳獲炮2門、馬70匹；斃日軍300，俘獲200，偽軍傷亡及攜械逃亡者2000餘人。守軍為增強防禦力量將綏化保安大隊2000人編為獨立團，加入正面陣地。15日，本庄繁奉日本陸相南次郎命令，再次向馬占山提出馬軍撤出中東鐵路以南，該區由洮昴局管理，馬不得妨礙等三項要求，被馬占山拒絕。

1931年11月15日晨7時30分，日軍第2師團司令多門中將率師團主力到達大興前線。

1931年11月16日11時，在10架飛機和重炮、坦克支援下，日軍步騎兵4000人，向新立屯、三家子等陣地發動猛攻。守軍奮力抵抗，戰至15時，將日軍擊退。雙方傷亡慘重。17日10時10分，本庄繁接到陸軍參謀總長關於“向齊齊哈爾以北推進。盡力以果敢行動使敵陷於潰滅”的指令，下令第2師團“一舉攻占齊齊哈爾”。又令混成第39旅團除1個步兵中隊和工兵中隊外，“將其餘部隊調集大興，人列於第2師團長指揮”。13時，多門師團長在後衣里巴列車內向日軍各部隊下達了向黑軍全面進攻(重點進攻三間房)的命令。

1931年11月17日22時，得到補給增援的日軍兵分三路，向馬部陣地展開狂攻。右翼部隊在天野指揮下，從烏諾頭出發向新立屯一帶左翼陣地進攻。守軍吳松林旅雖連戰數日疲憊不堪，但面對數倍強敵仍竭死抵抗，打退日軍進攻十餘此。戰至日凌晨，守軍戰壕多被毀壞，各團、營陣地被切斷數十處，難以扼守，遂退往大興屯一帶第二道陣地。17日22時40分，日軍左翼部隊在長谷指揮下，向湯池一帶右翼陣地進攻。守軍程志遠旅與之殊死奮戰。翌日2時，日軍增加攻擊力量，以坦克8輛、大炮30餘門，肆恣猛擊，守軍難支，遂撤向三間房主陣地。

1931年11月18日凌晨3時，日軍集結各部按預定部署進至待擊地域。6時30分，飛機和炮兵先後向三間房一線陣地轟擊1小時，守軍以炮還擊，彼此炮聲隆隆，震撼整個朔北荒原。彼時日軍重炮射程30公里，馬軍重炮射程15公里，吃虧不小。8時許，日軍在坦克掩護下開始總攻。守軍奮力抵抗，日軍進攻受挫。9時20分，多門下令預備隊增援，又發動瘋狂進攻。戰至10時，守軍右翼部隊雖浴血對抗，卻難固守，便退至昴昴溪。10時30分，守軍左翼陣地小興屯失守，部隊且戰且退至紅旗營子、榆樹屯一帶。此時，長谷指揮步、騎兵在飛機、坦克配合下向三間房主陣地進攻。守軍苑崇谷旅及張殿九旅頑強抗擊。14時，日軍第39混成旅團續到一個聯隊從三間房西側三家子加入戰鬥。並與正面進攻的長谷旅團，全力夾擊。15時後，日軍又增加飛機12架、坦克12輛、大炮30餘門，以猛烈炮火，將戰壕全部摧毀。馬軍由於糧食倉儲地被日機炸毀，守軍“不得飲食，疲餓過甚”。空腹苦戰的中國守軍面對數倍之敵毫無懼色，與敵拼死肉搏，喊殺之聲驚天動地，三間房一帶的戰事更是徹夜未停。儘管中國軍同仇敵愾，個個“奮勇異常”，但連續鏖戰，很多士兵幾日未睡，糧食斷絕，得不到任何增援。當時使用的彈藥系黑龍江守軍長期庫存，很多因發霉而不能用。在侵略軍源源不斷地得到大量補充和增援的情況下，敵強我弱的局面日趨嚴重。加之陣地被毀，“實在無力支持”下去。18日下午，馬占山將軍不得不痛苦地下令撤出戰鬥。19日，日軍5000餘人侵占齊齊哈爾，江橋之戰結束。