經過一個多月的艱苦訓練，到十二月初，十萬新兵有七萬多人通過考驗，正式加入國民軍，剩下的近三萬人則全部加入各州縣保安團。遼東軍區的主力部隊由原來的六個師擴編為十二個師，保安團組建了五十多個。清剿叛匪的時候到了。
雖然一個月放任自流，各路叛軍依然沒有占領一個州府城，張憲依然控製著全部的州府和八成以上的縣城。隻有不到二成的縣城和原來的猛安（相當於州），謀克（相當於縣）被幾個“皇帝"占領。這些縣城和猛安、謀克全部是女真人聚居區。各民族雜居地區根本就無人響應。雖然叛匪加起來有十萬人之多，卻分別在六個”皇帝“的領導下，又沒有多少真正的軍人，完全是烏合之眾。就是這些烏合之眾卻讓張憲清剿了整整一個冬天。
圍剿前兩個“皇帝”比較輕鬆。雖然這兩個皇帝分別有四萬多和兩萬多手下，但這兩個人都是真正的皇帝後裔，都是想真正的複興大金國，所以在張憲大軍來圍剿時沒有聽眾手下躲進山林的進諫，而是想和張憲堂堂正正地打一仗。除了是因為他們還在做強國夢之外還因為張憲派來圍剿的都是自己新成立的部隊，沒有動用國民軍主力。地方政府動用野戰部隊必須上報朝廷批準，張憲不想費那事，再說他也沒把那些土匪放在眼裏。當然更主要的是他要鍛煉自己的部隊。在雙方都想正經打一仗的情況下，這兩仗都成了正規的攻城戰。結果也很正常，第一仗12萬對兩萬，自然是全殲，第二仗12萬對四萬也是一樣，甚至連張憲部隊的傷亡人數也幾乎一樣。
打這兩仗隻用了七天時間，所以張憲很輕鬆地認為新年之前一定能把叛匪清剿幹淨。還剩下四個“皇帝”，張憲決定兵分兩路，一路對付東京路的兩個，一路對付上京路的兩個。接下來的十天，張憲很快收複了被叛軍占據的所有城市，卻連一個“皇帝”也沒找到，更別說抓到了。原因就是這四個皇帝根本就不是阿骨打的後代，而是被賜姓完顏的部落首領。他們本來就生活在大山裏，稱帝不過是帶兵到城市搶糧食和其他物資，張憲大軍一到，他們立即帶著戰利品回到山中。
接到師長們的報告張憲十分惱火，決定親自帶兵清剿。結果比前幾次稍好一點，不僅見著了土匪的影子，而且打死了幾十個土匪。再次進山，卻連土匪的影子也見不著了。往山外撤軍的時候卻中了埋伏，傷亡二十多人後又打死了幾十個土匪。一路上人人心情緊張，個個提心吊膽，最後總算平安回了城。一進城，卻見到了王保。王保一句戰果如何讓張憲的臉騰地紅了。張憲期期艾艾地說了情況之後王保說到：“原來土匪也會興華王爺的遊擊戰術。”張憲恍然大悟，原來這是黃毅勳以前講過的遊擊戰術。張憲由於一直在主力部隊，雖然學過卻一直沒有用上，沒想到被別人用在了自己身上。好在土匪的遊擊戰術不到家，自己沒吃大虧。“王總司令，這個遊擊戰術該怎麼破解？”“您是老上司，還是叫我王保吧。這個戰術怎麼破解我也說不好，不赤我想遊擊，遊擊，重點在於一個遊字，如果我們層層包圍，步步為營，讓他們遊不動，他們自己還得打，打他們是打不過的，您說是不是？”“層層包圍是好，不過得多少部隊啊，現在又是大雪封山，漫山遍野白茫茫一片，萬一有一支部隊迷路就糟了。”“那還是請教王爺吧。”