嘉靖三十九年（1560），戚繼光被任命為參將，負責守衛台州、金華、嚴州（今浙江梅城）等地防務，駐兵鬆門、海門一帶。
嘉靖四十年（1561）四月，倭寇又出動船隻數百，約兩萬人，在浙江的寧波、台州、溫州等沿海登陸，瘋狂劫掠。戚繼光率領戚家軍主力直衝倭寇較多的寧海（在今浙江寧波南部）。就在此時，又有數千倭寇乘數十艘舟船從周洋港、健跳所等處登岸。他們兵分兩路，一路進犯桃渚，另一路則突襲戚繼光家屬所在的新河城。進犯新河城的倭寇被唐堯臣等擊退後，其餘倭寇又乘虛向台州突襲，很快就抵達台州城附近的精進寺，情況十分危急。
戚繼光立即兵分三路，擂鼓疾行，回師台州。五月十日中午，戚家軍行進至距台州二裏的花街時，與倭寇不期而遇。倭寇排成一字大陣殺來，戚繼光令前鋒用銃射擊。倭寇恃強不退，蜂擁而來。其中有一個倭寇首領，左手挾矛，右手揮刀，凶相畢露地走上前挑釁。此時，戚繼光高聲宣布：“誰能殺得此賊，記他頭功一件！”勇士朱玨應聲而出，連發兩銃，當即打掉了倭酋手中的刀矛，又衝上前去砍殺了倭酋，之後連斬倭寇7名。於是，戚家軍士氣大振。倭寇急忙向右路殺出。戚繼光便命把總丁邦彥、哨官陳高遠率軍從左路攔住廝殺。倭寇一見情況不對，左路也跟著衝了上來。戚繼光又命把總陳大成、哨長王如龍率軍從右路迎戰。戚家軍同仇敵愾，越戰越勇，倭寇被殺得抱頭鼠竄，狼狽而逃。這一仗，戚家軍不但殲滅了大量倭寇，還解救出被倭寇擄去的百姓5000多人。隨後，戚繼光又用計將殘餘倭寇引出，全力追殺。最後，生擒倭酋二人，斬敵308人，餘敵全部溺水而死。
不久，又有一股倭寇大約2000名從健跳所圻頭登陸，氣勢洶洶地抵達台州東北的大田，陰謀偷襲處州（今浙江麗水）。戚繼光忙又率軍奔至處州。此時，戚繼光因多處設置防線，分兵四出，身邊隻有1500人。敵眾我寡，不易力敵。於是，戚繼光采取中途伏擊的辦法，將部眾設伏在上峰嶺。這裏山勢起伏，草盛林密，而且是倭寇西取處州的必經之地。為了不露行跡，他命令所有伏兵各執鬆枝一束作為偽裝。五月十八日，倭寇經過上峰嶺，隻見滿山蒼鬆不見有兵，就命其隊伍排成單列，中間夾帶著劫來的百姓，蜿蜒數裏，放膽行進。待敵寇走過一半，戚家軍突然火銃齊發，然後列開“鴛鴦陣”，與之拚殺。倭寇首尾不能相顧，頓時丟盔棄甲，全線潰敗。戚家軍以少勝多，打得2000餘名倭寇一敗塗地，生擒5人，斬敵344人，墜崖而死之敵不計其數。這一役，徹底解除了台州的困境。戚家軍凱旋時，台州官吏百姓出城20裏相迎，由衷感謝力保台州的戚家軍。
到台州後，戚家軍又與倭寇進行了大小十餘場戰役，連戰皆勝，到嘉靖四十年（1561）六月八日止，戚繼光基本肅清了浙江沿海一帶的倭寇，共擒敵1400餘名，倭寇因焚溺墜崖而斃命者無數，救出被劫百姓萬餘名。從此，“戚家軍”名震天下，婦孺皆知。這年秋天，戚繼光被晉升為指揮使。之後，他又在義烏招兵3000人，將戚家軍擴充至6000人。
在戚家軍的有力打擊下，敵寇不敢再來浙江沿海騷擾，卻逐漸向南擴散。在福建沿海地區，倭寇的活動猶為猖獗。北自福寧，南到漳泉，沿海數千裏都有倭寇的營地。尤其是寧德東北的橫嶼和福清的牛田，前一個是倭寇設立多年的老巢，後一個是倭寇的新據點，倭壘極多。福建巡撫遊震奏請朝廷火速派兵清剿。
嘉靖四十一年（1562）七月，奉朝廷旨意，胡宗憲任命戚繼光為上將，率部6000餘人，即刻南下寧德清剿倭寇。同時，加派督撫中軍都司戴衝霄率1600人協助戚繼光清剿倭寇。
戚繼光於是火速率軍南下。八月初，戚繼光到達寧德。經過調查研究，戚繼光決定先克橫嶼，再打福清。橫嶼位於福建寧德城東北20裏，是海中的一個小島，離岸約十裏，和大陸中間隔著一片淺灘。漲潮時一片汪洋，落潮時盡是泥淖。步兵既難涉水往渡，水兵又因船隻擱淺不能行進。倭寇於是在這裏設大營、築工事，妄圖長期盤踞，作為他們登陸劫掠的基地。據統計，當時橫嶼倭寇的兵力約有1000人，加上散紮在福清、寧德境內的倭壘中的倭寇，總數可達1萬多人。他們遍布耳目，互相聲援，遇機即出。長期以來，當地明軍對其無可奈何。
戚繼光見橫嶼倭寇之所以猖狂凶頑，一是憑借地勢險峻，二是有沿海各據點的援應。於是，他決定先降其脅從，殲敵羽翼，再搗敵巢。在探測了敵情和地形之後，戚繼光隨即進行部署，同時下招撫令，免除脅從者的罪責。這一招，使得章灣等地多數脅從分子投降，分化瓦解了倭寇，孤立了橫嶼的敵人。
八月七日，戚繼光先派兩支軍隊分別駐紮在金垂渡和石壁嶺，截斷敵人退路，自己則帶領大部人馬進軍章灣。進村之後，戚家軍不殺一人，不燒一房。曾經被迫跟隨倭寇的居民都跪在地上請求治罪，並表示願為官軍效力。經這些緊隨的居民入山相勸，又有1000多名被倭寇脅迫的人員歸降了戚家軍。這樣一來，橫嶼之倭便更加孤立。麵對一片汪洋，戚繼光把強渡的時間定在退潮時分。他召集軍中諸將，陳說厲害，指出：“此去攻打橫嶼，我軍深入險地，隻可勝，不可敗。不僅行進速度要快，而且必須登岸立足，否則潮水一漲，將陷入背水絕境。”
他又激勵眾人道：“此次出兵橫嶼，唯憑意誌和膽力而已。諸位中若自忖無此膽力，則不必前往，我不忍讓你們送命。”將士們聽了群情激昂，紛紛說：“我等跟隨將軍不遠千裏而來，所為何事？難道我等會對敵示怯嗎？”戚繼光見士氣已振，就大聲說道：“若真如此，我為諸位擂鼓助威！”
八月八日淩晨，海潮一退，戚繼光即命士兵每人背草一捆，列鴛鴦陣匍匐前進。士兵們把草鋪在潮退後露出來的泥土上，沿著用草鋪成的路一步一步向前行進。戚繼光則親自在岸邊擂鼓，以激士氣。隊伍在行進中始終保持著鴛鴦陣的陣式，每百步一息，鼓聲一起就起步，鼓聲一停就止步。最後，隊伍逼近小島，鼓聲不止，戰士們便急步搶登上岸。
此時，島上的倭寇早在沿山南麓一帶布好陣勢，還有大批倭寇屯據木城死守。戚繼光命吳維忠率部攻木城；陳子鑾、童子明率部殺向敵陣；陳大成率部沿山腳繞到敵人背後，準備前後夾擊。戚家軍是背水大戰，倭寇也知不戰即死，因此拚命抵抗。虎將王如龍從對岸遙看形勢危急，便揮師殺過灘去。待他的部隊一到，兩邊合力夾擊，倭寇再也支撐不住，全線潰退。明軍乘勝追擊，島上倭寇被消滅得幹幹淨淨。此次大戰，共滅2600名敵寇。被倭寇占據多年的橫嶼島，終於被戚家軍一舉收複。
第二天，戚家軍凱旋，回到寧德暫作休整。當時，福建方麵後勤供應不上，戚家軍生活很是艱苦。為了鼓舞士氣，戚繼光自編了一首凱歌，於八月十五中秋之夜召集官兵學唱，並以鼓聲合拍伴奏。歌中唱道：
萬人一心兮泰山可撼，惟忠與義兮氣衝鬥牛。
主將親我兮勝如父母，幹犯軍法兮身不自由。
號令明兮賞罰信，赴水火兮敢遲留？
上報天子兮下救黔首，殺盡倭奴兮覓個封侯！
這一夜，戚繼光和將士們以歌代酒，軍隊的士氣非但沒有因後勤供應不足而低落，反而更加高漲了。
次日，戚繼光率軍南下，於八月二十九日到達福清。
戚繼光首先派兵拔掉了倭寇的一個據點——杞店，又率軍回錦屏山駐紮。到了五更時分，700多名倭寇向錦屏山進發。他們騎兵在前，步兵隨後，企圖偷襲戚家軍營寨。戚繼光事先已得到消息，並在山口埋伏下了精兵強將，準備在那裏痛擊敵人。倭寇不知戚家軍已有防備，大搖大擺地進入了戚繼光設下的埋伏圈。沒走幾步，隻聽戚家軍的戰鼓如驚雷一般炸響，明軍伏兵的火銃立刻開火，無數道火光像閃電一樣撲向倭寇。敵人慘叫著中彈倒下，餘下的倭寇也被這突如其來的一幕嚇懵了，待轉過神來，連忙競相逃命。戚繼光早已命人在四處撒下鐵蒺藜，慌不擇路的倭寇又都被鐵蒺藜刺破了腳掌，行動遲緩了許多。這時，坐鎮中軍的戚繼光一聲令下，正在待命的大軍便如潮水般殺向被圍困的倭寇。
倭寇逃生心切，見四麵被圍，忙拋出大把碎金，想引誘明軍哄搶，以乘機逃脫。哪知戚家軍軍紀嚴明，對滿地金塊視若不見。他們舞動手中兵器，奮勇衝殺。經過幾個小時的浴血奮戰，被圍困的倭寇死傷大半，隻有一小部分衝出重圍。戚家軍乘勝追擊，又連破牛田、上薛、聞讀等數座倭巢，殺得倭寇鬼哭狼嚎，拚命逃竄，一直逃到新塘。戚家軍便分頭追敵，又在陣中豎立白旗為信號，以規勸脅從分子。有數千人紛紛扔掉刀槍，前來投降。這一仗打得幹脆利落，除瓦解敵寇數千名外，還殺敵688人，被燒死的倭寇不計其數。但尚有4000名倭寇退守林墩，妄圖負隅頑抗。