日侵略軍久攻不下嫩江橋，從8日開始的第二階段攻勢中，改變戰略，以政治攻勢輔以軍事打擊，妄圖用雙刃齊下來施加壓迫，逼馬占山就範。馬占山不為所懼，一麵對日寇的造謠中傷予以嚴正反駁，一麵繼續率部堅持頑強抗戰。11月17日，戰場上的馬占山被國民政府委任為黑龍江省委委員、省政府主席。戰鬥進行到18日，日軍後援不斷，已達近萬人的兵力；馬占山部的三個團：衛隊團、程誌遠團、吳鬆林的薩力布團，由於連日傷亡，又沒有補充，餘下不到2000人。許多傷員，胳膊斷了，腿炸掉了，隻用繃帶纏裹，仍加入到激烈的戰鬥中，直到流盡最後一滴血才倒下。
嫩江橋血戰至19日，馬占山部已戰到彈盡糧絕，兵力耗竭。在受敵夾擊的情況下，馬占山隻得率餘部退至省城齊齊哈爾。此次嫩江橋戰役，雖然以馬軍失敗告終，但卻大揚我中華民族之威風，給日寇以有力威懾打擊。11月20日，馬占山部又同日寇在齊齊哈爾血戰一場。由於無險可守，馬軍餉盡援絕，日寇大批湧進。為保存抗戰實力，馬占山決定暫且放棄齊齊哈爾，率部撤至克山。原東北特區長官、已向日寇俯首稱臣的張景惠見馬占山幾近絕路，屢勸其降日。馬占山斷然回絕，怒斥其勸降使者道：“我自信是中華好男兒，豈肯淪為亡國之奴，甘當小日本膝下之犬！”
11月22日，馬占山在海倫成立黑龍江省抗戰政府，以高度愛國熱情領導全省軍民展開抗日鬥爭。全國民眾特別是熱血青年紛紛來到海倫，聲援馬占山抗日，並堅決要求加入馬占山的抗日軍，共擊倭寇。為此，馬占山還專門組織了一支新軍——學生團。嫩江橋一戰，也使馬占山意識到，抗戰將是持久的，也是異常艱難的。為此，他除了大力整頓軍事，招募新軍外，積極尋求國內外輿論和民眾支持他堅持抗日的主張，並呼籲國民黨內部消除派係鬥爭，團結起來，一致對外。在此期間，日寇一方麵以重兵壓境，對馬占山部不斷發動攻勢；另一方麵則加緊收買馬占山的陰謀活動。馬占山部堅守海倫，擊退日偽軍一次又一次的圍攻。官兵們不但要時刻準備迎擊來襲之敵，還要在缺衣少糧的情況下同嚴酷的自然環境作鬥爭。國民黨中央政府卻與全國乃至海外華人中掀起的抗日熱潮正好相反，對馬占山的抗日行為不支持援助。馬占山等人多次聯名向國民黨中央政府發電求援，始終沒有得到一槍一彈、一兵一卒、一錢一糧的支援。到12月底，馬占山部完全靠官兵們高昂的抗日士氣支撐，處境萬分危急。
麵對危難局勢，馬占山不得不采取靈活策略，他決定暫時和日偽虛與委蛇，保存實力以圖日後東山再起。1932年2月16日，馬占山前往沈陽，參加由大漢奸張景惠、臧式毅、熙洽等人組成的所謂“聯省自治”會議，即“四巨頭”會議。會上，通過了所謂的“新國家”的建設大綱。馬占山被委任為偽黑龍江省省長，但馬占山沒有在宣言上簽字。2月23日，馬占山率領旅長程誌遠、團長李少峰等少許部下由海倫抵齊齊哈爾，並於次日在日本關東軍一手導演下，在省府大禮堂舉行就職典禮，就任偽黑龍江省省長。3月8日，馬占山到長春迎接溥儀，並於次日參加了偽滿洲國成立典禮。參加完典禮儀式從長春回到齊齊哈爾市後，馬占山就加緊籌備出走事宜。4月2日，一切準備就緒，馬占山密令第3旅官兵200餘人，攜帶兩署關防印信及大批重要作戰物質，在黎明即將到來之前，悄然出走。終於結束其偽府四十天充當傀儡的政治生活，繼續高舉抗日大旗。
隨著偽滿傀儡政府的成立，日本帝國主義開始糾集大批日軍和偽軍，對東北各地的抗日武裝力量和抗日運動進行瘋狂鎮壓。7月14日，日軍集結第14師團和第8師團，向馬占山部發起總攻。馬占山率部與敵人鏖戰三晝夜，官兵們視死如歸，不顧巨大傷亡，堅守陣地，擊退敵人的無數次進攻。後來，馬占山率餘部轉戰到興安嶺的深山密林。然而，馬占山部這時已處於萬分艱難的境地。前有堵截，後有追兵，槍彈、糧食等都得不到補充不說，更有在深山大澤中常人無法想像的困難。8月1日，馬占山部在羅圈甸突破日寇包圍潛入大青山時，隻剩下100餘人了。在大青山輾轉40多天裏，官兵們餓了就吃草根樹皮，渴了就飲山泉或坑窪裏的死水，直到9月才在蒙古族群眾幫助下到達龍門縣。在這次艱難的深山轉戰中，馬占山幾度死裏逃生。羅圈甸突圍中，日寇誤將馬占山部犧牲的一個少將當作馬占山，並向國內國外輿論大加宣揚馬占山陣亡的消息。馬占山後來聽到這個消息，用手捋著上唇一溜漂亮的胡須，哈哈笑道：“小日本不亡，我馬占山怎會早死？！”
馬占山部在龍門經過一段時間的休養和擴充，又組成一支生氣勃勃的抗日軍。10月16日，馬占山同中東路護路軍蘇炳文等抗日將領在紮蘭屯舉行會議，決定兵分三路攻打齊齊哈爾。正當各抗日部隊積極備戰，準備於12月初分兵六路與日軍決戰時，計劃暴露，日寇先發製人，使馬占山整個進攻計劃功虧一簣。12月底，馬占山、蘇炳文等先後率領抗日將士、家屬和愛國同胞等計有3000多人被迫退入蘇聯境內。至此，馬占山在黑龍江省轟轟烈烈的抗日鬥爭暫告結束。
由於中國國民黨政府堅持反蘇反共的外交政策，1929年中東路事件發生後，中蘇兩國外交關係一度斷絕，直到1932年才有所緩和。馬占山等在蘇聯滯留到4月16日，才被安排繞道歐洲回國。他們在莫斯科稍作停留，即踏上去波蘭的列車。在途徑波蘭、德國、意大利、印度、新加坡、香港等地時，各地熱愛和平、同情中國人民的遭遇、堅決反對日本帝國主義侵略中國的人民群眾、友好人士和報紙、電台等媒體的記者，聽說中國的抗日民族英雄馬占山路過的消息，紛紛到車站熱情迎接，用生硬的中國話喊著支持馬將軍抗日的口號。尤其是心係祖國命運的各地海外華僑和中國留學生，見到馬占山將軍，更是感到無比的歡欣鼓舞。1933年6月12日，馬占山一行66人抵達上海，受到上海各界民眾的熱烈歡迎。在上海人民為馬占山舉行的盛大歡迎會上，馬占山慷慨陳詞，敘述了自己抗日以來的前後經過，並再次表明自己將繼續抗日的決心。
經過此次不平凡的歐亞之旅，世界局勢的變化和世界的社會發展，在馬占山腦海裏留下深刻的印象，也使馬占山更清楚地看到，惟有早日將日寇和一切帝國主義的軍隊趕出中國領土，惟有達到自主、和平和統一，中華民族才能走上發展道路，才能與世界比肩，不受列強欺負。可是，令馬占山感到萬分痛楚的是，熱河也落入日寇魔爪，東北三省已全部淪陷。主張抗日的張學良被迫下野，蔣介石當即以學習考察為由將張學良送往國外，派何應欽接替張學良職務。而最讓馬占山憤慨不已的是，他多次向國民黨中央政府請命，迫切希望回到東北抗日前線，而忙於發動內戰，根本無心抗日的蔣介石授予他一個軍事委員會委員的空頭銜，敷衍了事，對他的其他要求再也不予理睬。從1933年6月回國到1937年8月，在長達四年多的時間裏，馬占山一直被蔣介石擱置一邊，閑居上海、天津兩地。眼看著祖國河山在日寇鐵蹄踐踏下破碎不堪，馬占山心如刀割，痛苦非常。不能拿槍殺敵，馬占山便轉而進行宣傳和號召民眾抗日。
1937年7月7日，盧溝橋事變爆發，日寇發動全麵侵華戰爭，中華民族危在旦夕。在中國共產黨的號召下，全民族迅速掀起抗日救亡高潮。8月21日，馬占山被蔣介石委任為東北挺進軍司令，兼理東北三省招撫事宜。馬占山當即奔赴綏遠、大同組建挺進軍司令部，招募部隊，準備殺向抗日疆場。9月19日，日寇大舉侵犯綏遠，馬占山率部奮起迎擊，展開綏遠保衛戰。在同敵人苦戰20多天裏，馬占山身先士卒，頂著敵人的炮火，始終戰鬥在第一線。10月17日晨，同敵人陸、空強大兵力激戰一晝夜的馬占山率部退出包頭，向西北撤退到五原鎮，並積極爭取蒙古族同胞的支持。在遭到日、偽蒙軍的襲擊後，馬占山率部反擊，活捉偽蒙軍康王。12月23日，馬占山率部進駐準噶爾旗沙格都，除了罪大惡極的康王被押外，馬占山對其部下則采取曉以大義、既往不咎的安撫政策。馬占山實施的一係列有利於民族團結的有力措施，使伊克昭盟分裂局勢得到較好控製，更使許多被俘將士和老百姓爭先恐後地參加到馬占山的抗日隊伍中來。