马占山一路高升，当已经成为奉军高级将领后，也开始享受起荣华富贵来了，他和许多军官一样，也吸食鸦片，并且“一日都不可缺少”；他也好女色，经常去找来高级妓女，娶小老婆，除了原配杜夫人外，另娶有四房姨太太。
但忽然的一声爆炸声震醒了这位草莽英雄。
1928年6月3日，张作霖乘专车由北京返回奉天，吴俊升受命亲赴山海关迎接张作霖，并同车返回奉天。4日清晨5时许，当张作霖专车行至沈阳西郊的皇姑屯车站，列车被炸，吴俊升与张作霖一同死于非命。随后不久，爆发了“九·一八”事变，张学良东北易帜，但蒋介石授命不得抵抗，于是日本关东军兵不血刃地侵占了我国东北辽宁、吉林两省，接着又于11月3日集中兵力向黑龙江省大举进犯。当爆炸声响起的时候，马占山正在享受莺歌燕舞，第二天，当闻听张作霖和老上司吴俊升一起被炸死后，顿时拍案而起，发誓道：“公仇私恨，必报复之”。但当时蒋介石给张学良密电道：“沈阳日军行动，可作为地方事件，望力避冲突，以免事态扩大，一切对外交涉，听候中央处理。”张学良无奈，他知道如果没有蒋介石的支持，单凭东北军孤军奋战根本不是日军的对手，全面大战的话东北军必然被全部歼灭，那张学良也就再也没有资本了。于是，张学良也向东北军各部下达不抵抗命令，同时准备向关内撤退。而马占山对张学良这一大撤退极为不满，认为不该执行蒋介石这一不抵抗主义政策，使东北军有的不战而溃，有的不战而降，结果东三省沦陷，民众遭殃。
此时，日军正准备向黑龙江省大举进犯，马占山突然接到张学良任命他代理黑龙江省主席兼军事总指挥的委电，他当然明白张学良的用意，张是将马占山放置于敌后，希望他这个出身土匪的血性将军在敌后继续进行抵抗。于是，10月19日，他果断地率步兵李青山团来到省城齐齐哈尔。20日下午，马占山在省府新建成的大礼堂举行就职典礼，当时来自齐齐哈尔各界的高官、豪商约三百人受邀前来，其中就有日本驻黑龙江省领事清水八百。清水八百也想弄清这位向来骁勇好战的将军对日本的态度。大会开始，马占山正式宣布就职视事，他说；“目前最重要问题，即为维持地方治安，望各位群策群力，共相赞助，各司其事，各尽其职。倘有侵犯我疆土，及扰乱治安者，决以全力铲除之，以尽我保卫之责。”会后，他分别向南京国民党政府，各院部会，北平张融司令，锦州东北边防军司令长官公署和各省、市，及黑龙江省各县发出通电：“占山遵电令于本月20日驰抵省垣，就职视事。当兹边围垂危，千钧一发，牺牲所惜，陨越堪虞，惟望远锡箴视……”而清水八百也就知道了马占山的态度，那就是誓死保卫东北。
马占山就职后，立即开始将他的亲信任命在各个关键之处，朴炳珊被任命为黑龙江省城警备司令，令其严行防范，加强治安工作，并募编步兵一个团，充实省防兵力；之后，马占山又报请张学良批准，将原兴安屯垦军步、炮兵共约四团兵力，改编为新编黑龙江省省防第一混成旅，委任苑崇谷为旅长，调驻富拉尔基，以便加强对付景星方面来犯之敌；他又命令董文瑞取代汪伯城省府秘书长职务，他告诉董文瑞，要立刻召开各行各业代表会议，尽快恢复金融及地方治安事宣，通谕各商不得任意提高物价，囤积居奇，扰乱国计民生，否则严惩不贷。之后，马占山又颁布各项备战措施，命令将各商组织起来，由商民组织自卫团，实行互保，武器由官厅发给，团兵由商号摊派，一切开支经费，亦由商家分担。这之后，马占山又发布了通缉张海鹏的命令，在布告中他写道：“张海鹏，老迈昏愦，贪利卖国，乘外患紧张之时，勾结外人争政权，实为国人所共弃……至此次张贼叛变，罪止张贼一身，其部下如不反抗国军，决不横加诛连。尔军民人等，如能将张贼活擒来辕献俘，或携其首级来献者，在职军人立即加升二级，并奖大洋一万元，百姓赏大洋二万元”。显然，此举之意并不在缉拿张海鹏，而实际上是一个对日本的宣战声明。
正当马占山清急急忙忙地准备抗日的时候，清水八百也已经将马占山的敌对态度上报给了日本关东军。但关东军仍然希望能与马占山谈判解决黑龙江问题，于是，26日，日本驻齐齐哈尔领事馆武官林义秀等人，突然来到省府要见马占山，并致书说：“考察现在之时局，如欲避免战祸，维持地方治安，其唯一方法为马主席即行下野，同时将黑省政府交与张海鹏……此外决无良策。”马占山看后将此书抛至一旁，未做任何答复。27日，林义秀见马占山态度十分强硬，于是也开始已强硬态度对待马占山，要求马占山的军队撤离江桥，并保证日方修理江桥人员的安全。马占山当即回答说：“南满铁路对于洮昂路仅有借款关系，债权者不能代债务者修理工程，且洮昂路并非江省政府所属，不能代为承认由满铁兴修，可由江省政府代为通知洮昂路自行修理可也。”林义秀见状知道马占山已经铁了心要与关东军为敌，于是一言不发地离开了马占山的官邸。随后，马占山就接到了日军的最后通牒：“嫩江桥不得为战术上使用；至11月3日止，南北两军各由桥梁撤退十公里以外地点，至修竣为止；不承认上述要求或防碍修理者，认为对日军有敌意，即行使武力。”
马占山立即召开军事会议，商讨应敌之策。然而在会议中，面对日军的强大压力，自然就有一些将领希望与日军议和，赵仲仁就认为，日军来势凶猛，难以抗御，主张撤出阵地。并说：“咸以库空如洗，兵无利器，请马氏顾全地方，欢迎张海鹏。”其实，马占山召开这次军事会议的主要目的并非是讨论如何应敌，而就是为了定下抗日的基调，当听了赵仲仁建议后，马占山拍案大怒，声色俱厉地说；“吾奉令为一省主席，守土有责，不能为降将军。且吾出身绿林，位重未阁，亦何惜一死……，不抵抗主义，无殊拱手让人，若积极抵抗，予我全力，尚有几希挽回之望。”现在，“已到间不容发之时，战亦亡，不战亦亡，与其不战而亡，何如誓死一拼以尽天职。”而当赵仲仁等主降派面有难色的时候，马占山的卫队团长徐宝珍立即站起，掏出手枪拍在桌子上大声说道：“在座诸公，有敢言降者诸死之……”，由此，马占山抗日的决心为众所知，此后再无人敢提及降日。于是，在会后，马占山即调苑崇谷的第一混成旅由景星绕道来省，开驻大兴以西布防。
而马占山与日军争夺的核心就是位于三间房的江桥，那是洮昂铁路跨越嫩江的必经之道，南北交通要冲。因而，日本关东军要进入黑龙江省省城就必须首先占领江桥，这也是日军向马占山发出最后通牒的原因。
11月4日，江桥抗战开始，日军以7架飞机为掩护，出动四辆铁甲车为前导，四千步兵随后，同时调集数十门山炮配合进攻，向江桥、大兴车站发起猛烈攻击。严阵以待的马占山也立即命令守军奋起还击。马占山亲临前线指挥，主战场就是江桥。在江桥战区，日军先后集结多门师团等3万余人，另外有伪军3个团。还有相当数量的轰炸机和各种山炮、野炮、重炮等先进武器以及充足的作战物资。而马占山在江桥战区所能集结起来部队总数实际上只有徐宝珍卫队团等1.3万余人，武器装备自然也无法与日军相比。当时，日军的火炮射程在30里，而黑龙江守军的射程最远超不过15里。同时黑龙江守军子弹匮乏，枪械不良。
日军由南岸向位于江桥北岸的马占山阵地发起攻击，下午3时，敌人集中兵力，密集进攻。马占山命令等到敌军前进到百米处，再突然发起猛攻，而当日军冲抵到阵前的时候，再利用近战优势与敌展开白刃战。此时，敌人飞机、大炮均无技所施，于是，在贴身肉搏中日军只好暂时撤退。整整一天，日军始终未能前进一步。于是，一边继续攻击，一边派军机进行侦察，当日黄昏侦知江岸无人防守，遂驾百余艘船偷渡而来。马占山得知后，即令徐宝珍的卫队团潜伏于江岸蒿草里，准备给日军来一个近岸伏击。徐部遵照他的指示，悄悄来到岸边的芦苇丛中，设下伏兵，待敌刚一靠岸下船，突然枪炮齐射，这股日军顿时被打的人仰船翻，血染江水，有的陷入泥沼、有的跳入江中。日军急忙派遣援兵，但也被马占山用骑兵在桥上冲断，一部分被迫撤回，另外一股则进入马占山左翼阵地，结果被马占山部队包围，日军战死400余人。
5日，日军一面变更部署一面增派兵力，同时命令张海鹏的伪军为前队，日军在后督饬向马部猛攻，顿时，守桥部队受到巨大压力。马占山于是亲临前线督战，当他的车向阵地疾驰的时候，炮弹就在他身边不断爆炸，他的车篷上被炸弹炸出了很多孔。马占山严命吴松林旅和徐宝珍卫队团，坚决扼守桥头和江岸阵地，同时命张殿九的步兵第一旅由昂昂溪南下增援。
6日，日军再次增加兵力，但马占山部队仍然坚守不退，直到11月18日，马占山部队终于在歼灭了1400人后不得不撤退放弃了三间房阵地。但在19日，马占山又突然在杨家屯设伏全歼追敌多门联队400余人，之后，马占山率部有计划地退守克山、拜泉、海伦，然后又坚守哈尔滨，直到第二天2月5日哈尔滨才陷落。