馬占山在此境況下，遂生反正之心。他利用偽省長的身份，籌集了偽滿幣兩千多萬元（相當(dāng)于銀元兩百萬元）、三百匹戰(zhàn)馬和十幾卡車物秘密送往黑河等地以備抗日之用。

3月末，馬占山抓住國聯(lián)調(diào)查團欲到東北的時機，一面調(diào)查揭露日本侵略者的罪行，一面秘密布置軍事行動。4月1日，他帶領(lǐng)親隨200余人離開齊齊哈爾，7日抵達黑河，通電反正，再舉抗日旗幟。

他隨即聯(lián)合吉林的李杜、丁超和海拉爾的蘇炳文，組成東北救國抗日聯(lián)軍，設(shè)總司令部于哈爾濱，自任總司令。

馬占山又傳令各縣組織義勇軍，集中于黑龍江東部各縣配合作戰(zhàn)。經(jīng)過五個多月的轉(zhuǎn)戰(zhàn)，終因孤軍無援，傷亡慘重，于12月7日被迫退入蘇聯(lián)境內(nèi)。

1932年4月1日凌晨，馬占山以檢閱部隊為名，率衛(wèi)隊步兵一營、騎兵一營，攜帶軍政兩署關(guān)防印信、重要文件和巨款，潛離齊齊哈爾直趨拜泉。

3日，會晤李杜、丁超、宮長海、馮占海、李海青諸部代表，共同制定了攻取長春、哈爾濱、齊齊哈爾的聯(lián)合作戰(zhàn)計劃。7日，經(jīng)克山、訥河抵達黑河，遂即通電全國，再舉義旗。為此，他聯(lián)合省內(nèi)各抗日力量，成立了黑龍江省抗日救國軍總司令部，自任總司令。

他還以黑龍江省政府主席兼東北邊防軍駐江副司令的名義發(fā)電表示：“與日周旋，雖馬革裹尸，亦所不惜?！?月初，他決定聯(lián)合吉林自衛(wèi)軍進攻哈爾濱。15日，馬占山親自率軍向哈爾濱挺進。不料，程志遠叛國投敵，吉林自衛(wèi)軍也敗退富錦、同江。

因此，馬占山軍隊在日、偽軍重點圍攻之下，不得不步步退卻。6月1日，馬占山在海倫會見美國、瑞士記者，揭露偽國內(nèi)幕，闡述抗戰(zhàn)經(jīng)過及其意義。6月3日，海倫失守。此后，馬占山處境愈加困難。7月14日，日軍第十四師團和第八師團向馬占山發(fā)起總攻擊戰(zhàn)。