東北義勇軍失敗後，中國共產黨領導的東北抗日遊擊戰爭，逐漸居於東北抗日的主力地位。1931年9月22日，中共中央就提出“組織東北遊擊戰爭，直接給日本帝國主義以打擊”的口號。滿洲省委書記羅登賢針對東北特點，從實際出發，先後派大批幹部到義勇軍中去協助工作，到偽軍中去做策反工作，到工廠、農村中發動群眾，廣泛開展對日鬥爭，建立抗日遊擊隊。1932年到1933年，中共相繼在遼寧成立了盤石遊擊隊，在吉林成立了東滿遊擊隊，在黑龍江成立了珠河遊擊隊、密山遊擊隊、寧安遊擊隊、湯原遊擊隊、饒河遊擊隊等，開展抗日遊擊戰爭。在各地遊擊隊普遍發展的基礎上，1933年9月至1935年，中共先後改編各地遊擊隊為東北人民革命軍，共5個軍。人民革命軍在黨的領導下，有一定的政治覺悟，組織紀律性較強，又有廣大群眾的支援，因而粉碎了敵人的多次“討伐”，給日軍以沉重的打擊。
為了統一領導各抗日武裝，1936年1月，東北各抗日部隊在黑龍江湯原縣召開了軍政擴大聯席會議，決定統一改編各部隊為東北抗日聯軍，組成東北抗日聯軍總司令部，公推楊靖宇為總司令，趙尚誌為副總司令，李紅光為參謀長。2月，發表了《東北抗日聯軍統一建製宣言》。改編後的抗日聯軍共有7個軍：以磐石遊擊隊發展起來的人民革命軍第一軍為抗日聯軍第一軍，楊靖宇任軍長兼政委；東滿遊擊隊發展起來的人民革命軍第二軍為抗日聯軍第二軍，王德泰任軍長、魏拯民任政委；珠河遊擊隊發展起來的人民革命軍第三軍為抗日聯軍第三軍，趙尚誌任軍長；密山遊擊隊發展起來的人民革命軍第四軍為抗日聯軍第四軍，李延祿任軍長；寧安遊擊隊發展起來的人民革命軍第五軍為抗日聯軍第五軍，周保中任軍長；湯原遊擊隊擴編為抗日聯軍第六軍，夏雲傑任軍長；饒河遊擊隊擴編為抗日聯軍第七軍，陸榮久任軍長。後來又成立了抗日聯軍第八、九、十、十一各軍。1937年後，抗日聯軍先後進行了整編，將第一、二軍合編為第一路軍，楊靖宇任總指揮；第四、五、七、八、十各軍各編為第二路軍，周保中任總指揮；將第三、六、九、十一各軍合編為第三路軍，趙尚誌任總指揮(後改由李兆麟任總指揮)，全軍4.5萬人。東北抗日聯軍在南起長白山、北抵小興安嶺、東到烏蘇裏江、西至遼河的廣大地區內，開展遊擊戰爭，襲擊敵偽據點，焚燒倉庫，炸毀機場，破壞交通，大量消滅日偽軍，粉碎了日偽軍的多次“討伐”，有力地打擊了日本帝國主義在東北的殖民統治。
四、長城抗戰和中間階層的抗日要求
日本關東軍占領東北全境，建立“滿洲國”後，便準備向關內進攻，把侵略的矛頭指向位於東北和華北之間的軍事戰略要地熱河省。1932年7月，關東軍公然宣布熱河屬於偽滿的一部分，長城是偽滿的國界，決定“將熱河置於支配之下”。於是，關東軍不斷派遣特務進入熱河，製造分裂、挑釁事件。
1933年1月1日，日軍在山海關製造事端，隨即炮轟臨榆縣城，進攻山海關。東北軍何柱國第九旅奮起還擊，安德馨營300人力戰殉國，揭開了長城抗戰的序幕。在日軍陸海空軍的聯合進攻下，東北軍被迫放棄山海關，退守北戴河。3日，山海關陷落。2月9日，關東軍提出《經略熱河計劃》，全麵部署對熱河作戰。2月21日，關東軍聯合偽軍10萬人分三路進犯熱河，北路由通遼向開魯，中路自錦州攻朝陽，南路出綏中趨淩源。23日，日本外務省向中國提出備忘錄，要求中國軍隊退出熱河省。中國外交部給予拒絕。麵對日本侵略，坐鎮熱河省省會承德的省主席湯玉麟毫無抵抗準備。他竟然從前線征集240多輛汽車，滿載鴉片和家產，於3月3日下午自稱赴前線督戰而逃之夭夭。日本關東軍先頭部隊128名騎兵竟於4日清晨未放一槍輕取承德。僅僅10天時間，熱河全省皆告淪陷。熱河輕易失守，全國輿論紛紛譴責張學良，要求懲辦湯玉麟。7日，北方軍政長官張學良引咎辭職。
日軍占領熱河後，繼續擴大侵略範圍，進犯長城各口。蔣介石被迫離開江西“剿共”前線北上，派軍政部長何應欽兼代北平軍分會委會長職權，並調中央軍第十七軍軍長徐庭瑤率3個師北上馳援，與西北軍宋哲元部，晉軍商震、傅作義部、東北軍王以哲部抗禦日軍，展開長城抗戰。
3月9日，奉命擔任喜峰口防務的宋哲元第二十九軍先頭部隊剛到喜峰口，就與日軍展開遭遇戰，戰鬥十分激烈。10日、11日兩天，二十九軍士兵手執大刀與敵人短兵相接，拚死肉搏，敵人的飛機、炮兵無法支援步兵作戰，使喜峰口陣地失而複得。11日，日軍又向古北口陣地發動總攻，第十七軍的關麟征第二十五師等3個師先後接替與敵人展開作戰。在大部隊撤走後，一個軍事哨所仍留守陣地，日軍用炮火將該哨所轟平，7名勇士壯烈殉國。4月9日，日軍又向冷口發起進攻。商震第三十二軍憑借有利地形，多次打退日軍進攻。日軍占領冷口後，於4月20日向南天門發起攻擊，第十七軍堅守陣地，與敵人血戰7晝夜，直至高地化為焦土，才奉命撤退。長城抗戰是在國民政府直接領導和指揮下的有組織的抗戰，給驕橫的日軍以沉重的打擊，挫傷了日軍侵略的銳氣。日軍在長城各口受挫後，改由山海關向灤東進攻，國民黨軍隊腹背受敵，先後撤出長城一線。5月，日軍繼續向前推進，強占了冀東的密雲、遵化、唐山等22縣，侵占了察哈爾省東部的多倫、沽源、張北等縣，戰火危及平津城下，華北諸省嘩然大亂。
長城抗戰時，國民黨繼續鼓吹“一麵抵抗，一麵交涉”的政策。3月14日，行政院長汪精衛指使外交部長羅文幹在北平與英、美等國代表會談，請其調停中日衝突。5月3日，國民政府任命黃郛為行政院北平政務整理委員會委員長，主持華北政務，負責與日交涉停戰問題。黃郛到達北平與何應欽商議後，與日本進行了秘密談判。5月31日，何應欽派北平軍分會參議、陸軍中將熊斌作為中國方麵全權代表，與日本關東軍副參謀長、陸軍少將岡村寧次在塘沽的日本陸軍運輸派出所舉行正式會談，最後簽署了由日本提出的停戰協定，即《塘沽停戰協定》。協定規定：日軍撤歸長城一線，中國軍隊撤至長城以南地區，劃冀東為非武裝區，由中國警察維持治安。這個協定，實際上默認日本對東三省和熱河的占領，承認冀東為非武裝區，中國軍隊不能駐守，致使華北門戶洞開，日軍可以隨時進犯冀察，直取平津。
由於日本進攻關內，加重了民族危機，國內要求抗日的力量不斷增強。1933年1月17日，中國工農紅軍革命軍事委員會發表聲明，願意在停止進攻蘇區、保障人民民主權利和武裝民眾三個條件下，同國民黨任何軍隊訂立抗日協定，共同抗日。同月，王造時發表了《安內必先攘外——為政府進一忠告》一文，認為安內必先攘外，“隻有決心抗日，隻有積極抗日，才是唯一出路，才是唯一安內的辦法”。丁文江也發表《假如我是蔣介石》的文章，要求立刻與共產黨商量休戰，共同抗日。4月，天津《益世報》社論說：“從民族觀念的立場上說來，與其被外族征服，毋寧在同族中表示退讓”，“與共產黨負責領袖，謀有條件的政治妥協”。在民族危機的激蕩下，資產階級和知識界上層人士紛紛抨擊國民黨的內外政策，要求國民黨改變“剿共”政策，停止內戰，聯合共產黨抵抗日本侵略。中原大戰後一直隱居泰山的馮玉祥到達張家口，積極開展抗戰的準備活動。
熱河失陷後，由東北而來的大批義勇軍退入察哈爾境內，由於何應欽采取不收容政策，他們紛紛投奔主張抗戰的馮玉祥。馮玉祥與共產黨合作，以二十九軍教導團方振武部和義勇軍組成察哈爾抗日同盟軍，共約8萬餘人。5月9日，馮玉祥在《大公報》公開答複各民眾團體，表明他抗日救亡的誌願和決心。26日，馮玉祥在張家口發出通電，宣告察哈爾抗日同盟軍正式成立，馮玉祥為總司令。6月15日，同盟軍在張家口召開第一次軍民代表大會，通過了《關於民眾抗日同盟軍綱領決議案》，宣布同盟軍為革命軍民之聯合戰線，以外抗暴日、內除國賊為宗旨。會後，馮玉祥任命方振武為前敵總司令，共產黨員吉鴻昌為前敵總指揮，分三路迎擊日偽軍，相繼收複康寶、寶昌、沽源等地，向多倫挺進。7月7日，同盟軍向多倫敵軍發起總攻，血戰5晝夜，終於收複多倫，把日偽軍全部趕出察哈爾省。
同盟軍的活動，引起南京政府的不安，他們一麵派部隊進入察省，一麵對同盟軍進行分化瓦解。馮玉祥被迫一麵抵抗日偽軍，一麵阻止中央軍，遂與中央軍形成對峙局麵。在日本和蔣介石夾攻下，同盟軍處境日益艱難。8月5日，馮玉祥通電全國，忍痛收束軍事，交出察省軍政大權。9日，撤銷抗日同盟軍總部，辭去總司令職務，回泰山休養。馮玉祥走後，同盟軍大部被宋哲元收編。吉鴻昌、方振武等堅持繼續抗日，所部改稱抗日討賊軍，奮戰於熱河、長城一帶。在日、蔣軍隊的聯合進攻下，抗日討賊軍於10月中旬失敗，名震一時的察哈爾抗日同盟軍完全瓦解。
上海抗戰後，蔣介石調十九路軍到福建去和紅軍作戰。十九路軍廣大官兵厭惡內戰，要求抗日反蔣的情緒越來越高。1933年10月26日，十九路軍和紅軍訂立反日反蔣的初步協定。11月20日，十九路軍將領蔡廷鍇、陳銘樞、蔣光鼐聯合國民黨內李濟深等一部分反蔣勢力，發動福建事變。他們在福州舉行中國人民臨時代表大會，發表《人民權利宣言》，認為“國民黨政府為買辦軍閥地主豪紳之反革命政府”，號召組織人民革命政府，推翻南京政府，製定憲法，解決國是。大會推舉李濟深、陳銘樞、蔣光鼐、蔡廷鍇、黃琪翔、餘心清(代表馮玉祥)等11人為人民革命政府委員，宣布成立中華共和國人民革命政府，以李濟深為主席。人民革命政府改組了軍事機構和軍隊，建立第一方麵軍，下轄十九路軍總指揮部和7個軍、兩個空軍大隊。蔡廷鍇為第一方麵軍總司令兼十九路軍總指揮，並向閩浙邊界推進。福建人民政府的成立，是國民黨營壘的破裂，反映了國內中間階層的抗日民主要求。12月，蔣介石自任“討逆軍總司令”，調集15萬軍隊，向福建攻擊。翌年1月，由於蔣軍的猛烈進攻，十九路軍一些重要將領反戈投降，曆時兩個月的福建人民政府終於失敗。
1934年4月20日，由中國共產黨提出，宋慶齡、何香凝、李杜等1779人共同簽名發表了《中國人民對日作戰的基本綱領》，號召中國人民自動武裝起來驅逐日本帝國主義。5月，他們在上海成立了中華民族武裝自衛委員會總會，以促進人民的武裝自衛鬥爭，集中體現了中國人民抗日救國的正義要求。