1936年起，陳翰章先後任東北抗日聯軍2軍2師參謀長、師長。在他的率領下，2師與5師配合，在寧安縣團山子與偽軍的戰鬥中，斃敵40餘名。在鏡湖泊南部與日寇佐藤部隊激戰，擊斃佐藤留次郎以下10餘官兵。又在寧安縣煙筒溝襲擊偽警察隊31人，繳獲輕機槍1挺、步槍28支。
為了消滅陳翰章所部的抗日武裝，敵開始玩弄政治陰謀，駐寧安的日本憲兵隊要求會見陳翰章。經上級領導批準，陳翰章在唐頭溝東山接見日本浪人雄穀太郎。雄穀建議抗聯與日軍合作，如果不願合作，將部隊遷出三江地區，保存實力，以待時機。陳翰章義正嚴辭地回絕並警告雄穀，不要再當軍國主義分子的鷹犬，否則再以相逢，殺不赦。雄穀嚇得抱頭鼠竄而去。
同年6月，陳翰章被選為中共南滿省委委員，率部在寧安、鏡泊湖地區開展抗日遊擊戰，指揮攻打寧安、橫道河子、破襲北湖頭水電工程等戰鬥，被日本稱為“最為顯著的有力之匪”。
1937年後，陳翰章部隊活動範圍擴大。北起寧安、東京城，南到樺甸、安圖，越過牡丹嶺、老爺嶺至蛟河、舒蘭，東過哈爾巴嶺到安圖、汪清一帶的廣大地區。
“七七”事變發生後，全國性的抗日戰爭爆發。東北抗日聯軍為配合全國中心任務，各軍都展開攻勢，戰果輝煌。
1938年5月，在中共吉東省委的領導下，陳翰章率2軍5師與抗聯4、5軍等部西征，由牡丹江南下，直搗正在修建的鏡泊湖水電站。7月初，焚毀了工程事務所，解放了大批中國勞工，致使日本侵略者苦心經營數年的水電站，僅開工半年，就被迫停工。
1939年7月，2軍4、5師合編組成抗聯1路軍3方麵軍。陳翰章任方麵軍指揮。
8月，抗聯1路軍魏拯民司令、3方麵軍陳翰章總指揮率1路軍多部人馬進入安圖縣境。
他巧施圍點打援戰術，全殲宮本隊長以下近百名敵人。隨後，又在大醬缸以南5公裏處，伏擊出援的日軍和朝鮮特設部隊，將其全部殲滅。整個戰鬥共殲敵500餘名，擊毀汽車10餘輛，繳獲輕機槍7挺、步槍300餘支。後又成功指揮寒蔥嶺伏擊戰、智取額穆縣城等戰鬥。
從寧安西麵的鏡泊湖到敦化境內的牡丹嶺，這一帶深山老林是陳翰章將軍抗擊日寇、開展遊擊戰爭的根據地。為消滅抗聯，日寇曾多次討伐，後調來滿軍騎兵11團，駐守官地、大山嘴子、塔拉站一帶，卡住這一咽喉要道。
這個滿軍騎兵11團，吹噓自己“能攻善戰”，抗聯活動受到限製，還威脅著四道溝的抗聯密營。戰士們都主張消滅這個騎兵團。可是陳翰章卻向同誌們解釋：“這個騎兵團人馬上千，而咱抗聯才一二百人。若總和它糾纏，誰去打日本鬼子呢？所以，我們抗聯的兵力，隻能集中在消滅日寇上。對於這個團，要先爭取其中有愛國心的人，等待時機成熟，再消滅它。”
陳翰章通過中共塔拉站特別支部，對駐守在塔拉站本屯的滿軍3營2連長任孝先做爭取工作。不到半年，任孝先就與陳翰章磕頭拜把子。他防守的地段，不僅不阻攔抗聯隊伍，還給抗聯卸武裝、給養，向抗聯遞送日寇進山討伐的情報。日寇一怒之下，將團長關文龍撤職，換上劉東坡當團長。