1931年10月，叛军张海鹏派徐景隆率3个团从白城子出发向江桥进犯，15日到泰来，日军飞机飞抵龙江上空助威。16日拂晓，叛军进抵江桥南端，在战斗轰炸机的支援下，与守军徐宝珍部发生激烈战斗，其3个团在守军的反击下伤亡惨重，一齐溃退，在江桥以南地区与守军对峙。守军遂将江桥破坏3孔，阻止日军再犯。

1931年10月16日，马占山接到张学良任命其代理黑龙江省主席、军事总指挥的电令后，立即从黑河昼夜兼程前往省城，19日15时抵松浦后，即乘火车于当夜到达省城齐齐哈尔市。20日上午就任黑龙江省代主席，亲赴前线激励抗日将士，同时发布告悬赏索取张海鹏首级，并宣布成立黑龙江军临时总指挥部，以便统一指挥。马占山任总指挥，以副司令公署参谋长谢珂任副指挥。

1931年10月22日，马占山针对日军集结重兵妄图侵占黑龙江省事发表宣言：“与此国家多难之秋，三省已亡其二，稍有人心者，莫不卧薪尝胆，誓求危亡，虽我黑龙江一隅，尚称一片干净土……尔后凡侵入我省者，誓必死一战”。马占山在听取谢珂等将领关于江桥作战情况的报告后，立即调整了部署：委朴炳珊为省城警备司令，以加强省城防卫；任王南屏为黑河警备司令，接替马占山的遗缺；将东北屯垦军3个步兵团、1个骑兵团、1个炮兵营编为步兵第1旅，开驻大兴以南布防。其中骑兵到富拉尔基以西对景星方向警戒。至1931年10月29日，基本完成了从江桥到榆树屯和昂昂溪的以铁路为轴线，纵深约40公里、宽约10公里的三道防御阻击阵地布置。

原宁安公安总队长刘万魁率所部1000余人，于15日在宁安以西接受整编，整编为自卫军第五独立团。

1931年11月2日，本庄繁令齐齐哈尔日本特务机关长林义秀向马占山发出最后通牒：马占山军在1931年11月3日正午前必须自嫩江铁桥后撤至10公里以外地区，在日军修桥完竣之前不得进入该地区；如不接受上述要求，则日军将使用武力。马占山决定对日军修桥不予干涉，但如进攻中国军队，则采取自卫措施。

1931年11月4日上午，日嫩江支队先遣中队在飞机掩护下从江桥车站北进，通过嫩江桥后向大兴车站以南的中国军队阵地进攻。是时马占山卫队团徐宝珍部、张竞渡部共2700人奋起迎击，将敌击退。下午，日军集中兵力约4000余人，由滨本大佐指挥，在飞机坦克和重炮掩护下向江桥发动进攻。日军先突入江桥左翼阵地，继而向江桥正面大兴线主阵地猛攻。中国守军奋起还击。日军一度突入我阵地，双方展开白刃战，日军不支遂撤向江岸，遭到预伏在芦苇中的中国军队截击。此时，日军援军赶到，在立足未稳之际又被守军骑兵夹击，被迫退回。战到20时，日军败退遣尸400余具。是日夜，日军连续炮击后乘船百只偷袭，待船近北岸时，潜伏在芦苇内的中国军队突然开火，日军死伤落水者众，余皆退回。此日中国军队伤亡300余人，日伪军伤亡1000余人。日军集中兵力，在飞机和炮兵的支援下连续进攻，均被守军击退。日军低飞投弹的飞行员大针新一郎中尉亦被击伤。

1931年11月5日上午，日军集中全力再次发动进攻。战斗极为激烈。上午6时，日军以数十门大炮对守军阵地炮击。7时，日伪军8000余人在大炮和飞机掩护下，日军从中路、伪军从左右两路渡江。当船到江心时，中国军队猛烈还击，日伪军虽伤亡很大仍挣扎强渡。10时，日军占领江岸第一线阵地，守军分撤至左右两翼阵地，日军继而向第二道防线大兴阵地猛攻，遭到守军顽强抗击。 中午，马占山赶到前线指挥吴德霖团和徐宝珍团从正面反攻，急调骑兵第1旅萨布力团从两翼包抄日军。从15时血战到日暮。日本人承认：“中国军队用步兵及骑兵实行包围式反攻，日军蒙受极大之损失，而不得不向后撤退（见国联调查团报告书嫩江桥之役）。”日军被迫向后撤退，由进攻转为就地防御，其后方勤务分队大部被我迂回的骑兵所歼灭。

此战，中国军队伤亡200余人，日军死亡167人，伤600余人。

当日夜，日军第29联队的1个大队前来增援，到达后立即发动进攻，但很快亦被马占山军所包围。本庄繁再急调第16联队的1个步兵大队和3个炮兵中队来援。

1931年11月6日晨，日军增援部队到达，在飞机轮番扫射、轰炸支援下发动猛攻，试图解救被围日军。当日，马占山亲自到阵地督战。双方伤亡均众。日军在马占山军的顽强抗击下，攻击受挫，进展困难。本庄繁当即又令第2师团多门二郎率在沈阳地区的第29联队、骑兵第2联队、野炮兵第2联队、临时野战重炮兵大队、工兵中队和混成第39旅团的1个大队急开江桥附近增援，对守军进行强攻并占领大兴主阵地。中国军队拼命冲杀，白刃格斗杀声震天，几次夺回失去的阵地。此日中国军队伤亡1850余人，毙日伪军2000余人，击落飞机1架。日军滨本支队几乎被全歼，高波骑兵队伤亡殆尽。

由于士兵连战三日两夜，无援军替换，异常疲困；加之大兴阵地已被摧毁，马占山将军下令将主力撤至距大兴站18公里的三间房第二道阵地，以骑兵第1旅与步兵第1旅重新组织防御。

7日晨，大批日伪军在10架飞机掩护下，向三间房南汤池猛攻。马部张殿九旅和苏炳文旅1个混成团赶到反攻，战至午后将日伪军击退。此战中国军队伤300余人，毙伤日军600余人、伪军千余人。尤其值得称道的是，当敌机连续俯冲扫射、狂轰滥炸而我方完全没有高射炮火拦击的被动局面下，智勇双全的将士们竟表现出了惊人的聪明才智，“以20人为一组，仰卧地上，用步枪向上射击”，创造性地击落了敌机一架。事后检查其残骸“两翼有26个子弹洞”，是为中国对日作战史上所击落的第一架敌机。以此之故，在后来的战斗中，日本飞机再也“不敢低飞。”见日军损失惨重，本庄繁下令多门二郎停止前进，返回原驻地。

日军为掩盖自己失败的真相，散布苏联向黑龙江守军提供弹药的谣言，还以各种谎言遮掩日军损伤数目，唯恐日本国内反战势力占上风。马占山曾通电驳斥日军谣言。

日军在第一阶段作战中伤亡很大，为尽快打破僵局抓紧调兵遣将，极力准备再次进攻。同时通牒马占山进行施压，要求其立即下野、让出权力并撤出在齐齐哈尔的中国军队，遭到马占山的断然拒绝。关东军向日本陆军中央部提出速增派一个师团的兵力。本庄繁下令“第2师团全力向大兴方面集结”。至11日，日军在嫩江北岸有长谷旅团司令部、步兵第16联队、第4联队(欠第3中队)、第29联队第1大队(欠第3中队)、骑兵第2联队及配属的第28联队之第2中队，野炮兵第2联队’(欠第8中队)，工兵第2中队。嫩江南岸有野战炮兵第26联队第3大队、临时野战重炮兵大队等，总兵力超过3万人。

针对日军的调兵遣将，1931年11月7日晚，马占山主持召开军事会议，研究应敌措施并确定调整部署，重新设置三道防线。第一道防线在汤池、乌诺头、新立屯一带，其前线阵地在后依里巴、前官地、后官地等地，由骑兵第1旅吴松林部两个团防守。14日后骑兵第2旅程志远部全部投入汤池等地战斗。第二道防线在英老坟、三间房、大兴屯、小兴屯、霍托气等地，是黑军正面防御的主阵地，由暂编第1旅苑崇谷部4个团、步兵第2旅吴德林团、步兵第3旅李青山团、骑兵第1旅王克镇团、朴炳珊炮兵团，还有工程兵等保障分队防守。14日后，步兵第1旅孙洪裕团和绥化保安大队2000人加入正面防御作战。第三道防线在朱家坎、富拉尔基、昴昴溪、榆树屯等地，由步兵第1旅张殿九部2个团、骑兵2旅全部和卫队团防守。总兵力1.3万余人。

三间房是洮南至昴昴溪铁路线上的一个车站，北距齐齐哈尔70里，南距嫩江桥60里，是中国军队保卫黑龙江省省会的重要防御阵地。日军要侵占黑龙江省必占三间房才能直达齐齐哈尔。因此，争夺三间房就成江桥之战第二阶段的焦点。

1931年11月12日上午，日军先头部队步骑兵500人向马占山部前沿阵地前官地、后官地、张花园进攻，守军吴松林部奋起抗击。战至13时，阵地被日军占领，守军600余人撤向第一线阵地。

1931年11月13日晨5时，日军500余人在两架飞机配合下，向新立屯进攻，遭到守军反击，战到10时，被守军击退。当日中午，被炸坏的嫩江桥修复，为日军大规模进攻提供了有利条件。中午，关东军司令本庄繁第三次下达增援令：“将第2师团剩余部队及混成第39旅团的步兵3个大队，及救护班派往大兴附近”，并令第2师团长多门中将一并指挥嫩江支队。日军大本营急增3个飞行队至黑龙江省，并把准备在大连登陆的第4混成旅团改在朝鲜釜山登陆，进快进抵黑龙江。下午，日军步骑兵3000余人在炮兵配合下向汤池、乌诺头、新立屯发动猛攻。守军奋起抵抗，战至午夜12时，日军占领乌诺头。

1931年11月14日晨日军在两架飞机和重炮掩护下向汤池阵地猛攻，被马占山部击退。10时许，日军2000余人在长谷指挥下，分步、骑两支部队，采用大包围的战术，从左、右两个方向攻击汤池，马军且战且退，激战至15日晨，日军攻至拴马。马占山早已令两个骑兵团悄悄包抄敌两翼，一声令下，正面卫队团首先冲入日军阵地，骑兵团从两翼呼啸而至，日军仓皇撤退。马占山部缴获炮2门、马70匹；毙日军300，俘获200，伪军伤亡及携械逃亡者2000余人。守军为增强防御力量将绥化保安大队2000人编为独立团，加入正面阵地。15日，本庄繁奉日本陆相南次郎命令，再次向马占山提出马军撤出中东铁路以南，该区由洮昴局管理，马不得妨碍等三项要求，被马占山拒绝。

1931年11月15日晨7时30分，日军第2师团司令多门中将率师团主力到达大兴前线。

1931年11月16日11时，在10架飞机和重炮、坦克支援下，日军步骑兵4000人，向新立屯、三家子等阵地发动猛攻。守军奋力抵抗，战至15时，将日军击退。双方伤亡惨重。17日10时10分，本庄繁接到陆军参谋总长关于“向齐齐哈尔以北推进。尽力以果敢行动使敌陷于溃灭”的指令，下令第2师团“一举攻占齐齐哈尔”。又令混成第39旅团除1个步兵中队和工兵中队外，“将其余部队调集大兴，人列于第2师团长指挥”。13时，多门师团长在后衣里巴列车内向日军各部队下达了向黑军全面进攻(重点进攻三间房)的命令。

1931年11月17日22时，得到补给增援的日军兵分三路，向马部阵地展开狂攻。右翼部队在天野指挥下，从乌诺头出发向新立屯一带左翼阵地进攻。守军吴松林旅虽连战数日疲惫不堪，但面对数倍强敌仍竭死抵抗，打退日军进攻十余此。战至日凌晨，守军战壕多被毁坏，各团、营阵地被切断数十处，难以扼守，遂退往大兴屯一带第二道阵地。17日22时40分，日军左翼部队在长谷指挥下，向汤池一带右翼阵地进攻。守军程志远旅与之殊死奋战。翌日2时，日军增加攻击力量，以坦克8辆、大炮30余门，肆恣猛击，守军难支，遂撤向三间房主阵地。

1931年11月18日凌晨3时，日军集结各部按预定部署进至待击地域。6时30分，飞机和炮兵先后向三间房一线阵地轰击1小时，守军以炮还击，彼此炮声隆隆，震撼整个朔北荒原。彼时日军重炮射程30公里，马军重炮射程15公里，吃亏不小。8时许，日军在坦克掩护下开始总攻。守军奋力抵抗，日军进攻受挫。9时20分，多门下令预备队增援，又发动疯狂进攻。战至10时，守军右翼部队虽浴血对抗，却难固守，便退至昴昴溪。10时30分，守军左翼阵地小兴屯失守，部队且战且退至红旗营子、榆树屯一带。此时，长谷指挥步、骑兵在飞机、坦克配合下向三间房主阵地进攻。守军苑崇谷旅及张殿九旅顽强抗击。14时，日军第39混成旅团续到一个联队从三间房西侧三家子加入战斗。并与正面进攻的长谷旅团，全力夹击。15时后，日军又增加飞机12架、坦克12辆、大炮30余门，以猛烈炮火，将战壕全部摧毁。马军由于粮食仓储地被日机炸毁，守军“不得饮食，疲饿过甚”。空腹苦战的中国守军面对数倍之敌毫无惧色，与敌拼死肉搏，喊杀之声惊天动地，三间房一带的战事更是彻夜未停。尽管中国军同仇敌忾，个个“奋勇异常”，但连续鏖战，很多士兵几日未睡，粮食断绝，得不到任何增援。当时使用的弹药系黑龙江守军长期库存，很多因发霉而不能用。在侵略军源源不断地得到大量补充和增援的情况下，敌强我弱的局面日趋严重。加之阵地被毁，“实在无力支持”下去。18日下午，马占山将军不得不痛苦地下令撤出战斗。19日，日军5000余人侵占齐齐哈尔，江桥之战结束。