楊嶽斌原名載福，湖南善化人；原籍幹州廳。祖勝儒，從剿幹州苗匪，在永綏王瓜寨殉節。父秀貴，直隸宣化鎮遊擊。載福幼嫺騎射。道光二十六年，由行伍補長沙協左營外委。二十九年，新寧匪首李沅發就擒，載甯在事出力，賞戴藍翎。
鹹豐二年，粵匪竄湖南，載福守湘陰有功，升宜昌章營千總。三年，在籍侍郎曾國藩督辦團練，治水師於衡州，調載福領右營。四年四月，偕生員彭玉麟攻湘潭踞賊，載福骽臂俱傷，裹創鏖戰八日，十捷克之。擢守備，賞換花翎。六月，進規嶽州。載福率水師伏雷公湖，彭玉麟伏君山，別隊趨南津港，誘賊船出，佯卻。賊追之，伏起，盡焚其船。官軍入嶽州。七月，賊再至，載福駕艇沿湖東岸斜行，捷如飛鳥；及近，揮旗發炮，斃賊多名。偽丞相汪得勝護衛甚眾，載福飛槳挺矛刺殺之，奪其船，追奔至臨湘，逆船無一還者。捷入，以都司補用，賞「彪勇巴圖魯」名號。越一日，擊賊於擂鼓台。日暮，北風大作，賊艘五、六百，掛帆直上；水師戰船僅七十餘，載福親操舢舨，率所部駛入賊隊，繞扼其背，斷賊後至者。乘風縱火，賊陣遂亂，大破之。擢遊擊。尋破賊於城陵磯。閏七月，追剿至湖北倒口，囗〈扌叜〉殺港儀踞匪淨盡。於是，嶽州門戶始固，而賊由荊入蜀之路塞矣。八月，偕都司蕭捷三夜襲嘉魚之黃蓋湖，賊駭竄。載福先入，中火傷，舟覆落水，躍上別船，大呼陷陣，焚賊船四十餘，盡洗沿江各村市之賊。乘勝下金口、沌口，燒鹽關賊船二百餘，破漢陽關等賊營，直趨塘角，兩岸賊壘俱燼。嗣見賊船下竄，載福急槳出賊前逆擊之，盡焚其輜重，駛入漢口，毀船隻無數。遂會陸軍攻武昌、漢陽，克之。曾國藩等疏稱：載福廉明愛士、膽力堅定，從下遊逆擊而上，甚合機宜。詔升參將，加副將銜。載福又以二十餘船，迎剿襄河賊，焚其船千餘，官軍自此一意東下，無後顧憂矣。是月，詔授湖南常德協副將，仍督勇剿賊。曾國藩奏定三路進兵，中路令載福等率師船先發。九月，克黃州府武昌縣，順流而東，截擊下遊援賊。載福等以為：賊至而迎敵，不若及其未至擊之。遂駛至蘄州。賊開炮拒戰，勢衰而潰。載福等分半追毀其船於骨牌機，以其半環攻未開之賊船，殲焉。十月，陸軍破半壁山水軍，進偪田家鎮，時賊守備甚嚴，上遊逃賊盡萃於此。載福、彭玉麟密與陸軍籌定破賊之策，分舟師為四隊，一專斷其橫江鐵鎖，一專轟賊船，一候鎖毀下駛、火燒賊船，一守老營、防賊上犯。而陸軍列陣南岸，壯水師聲威。又議：先燒上遊逆船，則下者遠竄，不如窮追數十裏，從下遊延燒而上。及戰，賊殊死鬥，我軍擊其護鐵鎖者二艘；須臾，鎖斷，奮呼乘之，賊大潰。追至武穴，出其前，乃縱火大燒，東南風甚，賊船不能下駛，無一遺者。載福以武穴之下，尚有賊船，鼓棹窮追至龍坪。是役，凡毀賊船四千餘，皆曆年所擄民船也。遂拔田家鎮，而蘄州賊亦遁去。載福徹夜窮追，勞苦嘔血。詔嘉其勤勩最著，加恩賞總兵銜。於是，水師進攻江西九江，載福以疾留武穴。既而疾甚，假歸。
五年，九江水師失利，賊上犯，再陷武昌、漢陽。三月，湖南巡撫駱秉章奏言：載福忠勇善戰，廉明樸訥，眾心素附，宜合招集部曲，修船添械，督師東下，重清江麵，與曾國藩湖口一軍會合。得旨：令統率師船，速赴武昌軍營。七月，偕各軍攻拔漢口鎮，平漢陽城外賊壘；與知府彭玉麟毀襄河口鐵索浮橋，血戰十日，斬獲無算。九月，退屯新堤，修船，汰各營水師十之三，簡鏈精銳，以圖大舉。十月，湖北布政使胡林翼疏稱：載福每戰必先，病不言勞、功不言賞，誌識高出尋常，為水師將才最。時載福已擢湖北鄖陽鎮總兵，疏入，命兼署湖北提督。十一月，軍至金口，遣都司鮑超等環擊賊船，悉沈之。岸賊亦棄壘遁。進屯沌口。十二月，敗賊鮎魚套及南岸觜。
六年四月，會陸師攻漢陽，飭李成謀等下駐沙口，斷賊水運，自督所部，攻兩岸賊壘。時漢陽東南沿江一帶賊船二百餘，排炮堅守，阻遏我軍。載福密備火船，乘南風，一炬空之。又敗黃州等處來援之賊。五月，率李成謀等躡進至黃州，曆蘭溪、武穴、龍坪，直抵九江，盡掃各岸賊船。還泊沙口。七月，九江逆首石達開糾黨來援江寧，將軍都興阿擊之黃州。載福以水師策應，尋破油坊嶺上青山賊巢。九月，敗援賊於蘄州。十一月，水陸會攻武昌、漢陽，水師上下夾擊。載幅督陣指揮，燒賊船淨盡。兩城同日克複。賊眾萬餘，斬溺無遺。捷入，賞加提督銜。載幅乘勝偕記名按察使李續賓陸軍拔樊口，破武昌縣，克黃州，節日下駛，克蘄州。軍至九江，先剿北岸小池口賊船，盡為我有，遂會陸軍攻府城。
七年正月，曾國藩自吳城迎勞諸軍。疏言：載福與李續賓、都興阿等，積勞之後、屢勝之餘，猶複日夕兢兢，夜不解帶，軍威嚴肅，士氣樸誠，實為不可多得之勁旅。二月，曾國藩丁憂離營，疏請將外江內湖水師特派載福總統，以彭玉麟副之。上嘉勉載福，命統帶曾國藩一軍，與彭玉麟協力督剿。四月，賊複犯蘄州羅田，號稱十萬，都興阿等分軍上援，載福亦分水師扼蘄州要路。五月，親臨布置之。六月，派都司胡友亮先繞廣濟，囗〈扌叜〉剿內湖，平童司牌逆壘。七月，蘄州水師屢獲大勝。八月，蘄黃肅清。載福會陸軍攻拔小池口偽城。九月，克湖口。得旨：遇有提督缺出，由軍機處題奏。尋偕陸軍攻拔小孤山，克彭澤，及安徽，望江東流，直抵安慶，克銅陵，至蕪湖魯港，與江南師船會。詔嘉載福轉戰千裏，用兵謀略，實有過人之處。尋授福建陸路提督，飭專摺奏事。
九江賊首林啟榮占踞六年，守備甚固，官軍屢攻不克。八年三月，李續賓謀開地道轟之，賊殊死堵拒，士卒多傷。四月，城東南地道複成，約載福水師攻北門臨江一帶。藥發，城圯百餘丈，奮呼齊登，戰竟日，擒林啟榮，磔之。複其城。擒斬二萬六、七千名；其逸出者，水師盡殺之。捷聞，賞穿黃馬褂，下部優敘；並諭：載福等統領得勝之師，迅速東下。時江西賊竄偪楚境。載福奏言：九江克複，臣應即會合都興阿馬步隊伍，急趨安慶。刻下陸師以援剿麻城、肅清北岸為先，駐皖官軍防剿太湖、石牌各路尤為緊要，必俟楚境肅清，始能會合東下。查安慶上一百二十裏之華陽鎮，為江防要地，即率領炮船進駐其間，以為水師老營，不時出擊，使安慶之賊不遑他顧。俟北岸肅清，再與馬步隊拔營前進，報聞。五月，再克東流，進屯黃石磯。連攻安慶，焚奪鹽河船壘。六月，督師船越安慶，至李陽河，率副將王明山攻樅陽，盡焚港內賊船；飭丁泗濱等攻大通，奪其石壘。載福自銅陵，經魯港，直抵蕪湖，審察形勢，仍回黃石磯，分兵複建德。七月，調福建水師提督。九月，都興阿陸軍來會，破集賢關。載福豫派師船繞入內湖，三麵環擊，牽製城賊，陸軍遂毀北門外多壘。池州賊萬餘，掠民船來救安慶。載福派陳金鼇、王明山大戰樅陽以遏之。十月，李續繽三河軍陷，賊謀犯楚境，官軍暫解安慶之圍，賊複四出。載福屢擊退之。十一月，分撥炮船，上扼湖北之龍坪、武穴、田家鎮。九年，督剿南北兩岸援皖各賊，大小數十戰，並隨時派隊薄城，以牽賊勢；設資遣難民局於東流，先後遣十三萬六千餘人。十二月，韋誌俊以池州降，令攻蕪湖，其部下複叛，還陷池州。載福知誌俊無他腸，即其眾分別遣留，得精銳二千五百人，令統率助剿。時，逆首陳玉成、李侍賢率眾萬餘竄楚及皖，水軍移屯觀音洲，策應皖北。
十年四月，會江南師船攻蕪湖對岸蟂磯，大捷。五月，督都司韋誌俊等拔殷家彙，進攻池州，毀城外石壘，即日盡撤水陸各營，襲樅陽，出賊不意，拔其偽城。先是，總兵吳全美等率江南紅單師船駐蕪湖以上之魯港。載福以江寧尚須炮船，議請飭江寧將軍和春，調吳全美等赴下遊，而自任芫湖以上江麵。六月，曾國藩以載福謀勇器識度越諸將，疏請將蕪湖以上江麵戰守機宜由載福會同彭玉麟妥辦。八月，遣遊擊陳代友等攻池州，奪青溪關。九月，偽忠王李秀成循岸上竄；載福拔隊敗之三山夾、穴子橋、白茅觜、運漕等處，分隊入內湖，圍攻神廟山、鎮山。斷鬆林口浮橋。十月，親督師船，由魯港潛行百裏。解南陵之圍，找出總兵陳大富一軍。救護難民十餘萬，置之東流一帶。
十一年正月，曾國藩疏陳戰績，詔嘉載福出奇製勝，調度有方，賞大小荷包、搬指、翎管、小刀等件。時，道員曾國荃、副都統多隆阿、臬司李續宜等軍，會攻安慶；逆首陳玉成，率眾萬餘來援，屢次樅陽。載福飭李成謀等百計守禦。賊不得逞。四月，督剿赤岡嶺援賊，屢為賊炮所遏，傷亡頗多；卒與陸軍合力破之，擒偽先鋒劉瑲琳。蓋破我江寧大營、連陷蘇常劇賊也。五月，督剿無為州之神塘河，平其壘，並焚城外賊船。遣副將唐學發，摧棋盤嶺下逆壘。六月，劃菱湖兩岸諸壘，令副將周萬倬陸師與唐學發合攻東門外壘卡，乘勝攻城北諸壘，悉拔之。城賊窮蹙，整隊出撲，水陸大戰。八月，克安慶，斃賊一萬六千餘名。載福即日派總兵王明山、黃翼升進克池州及桐城；捷聞，賞雲騎尉世職，下部優敘。先是，載福以省親請，得旨賞假四月。至是，始歸。
同治元年正月，以母病未痊，舊傷複作，疏請展假。諭曰：見在水師分防池州等處，江麵正須會合陸軍，直搗金陵，殲除首逆，機會萬不可失。水師雖有得力將領，必得該提督躬親調度，方能動合機宜。該提督忠勇性成，朝廷正資倚畀；值此時事多艱，自當移孝作忠，力圖挽救。即著迅速起程，前赴池州軍營，與曾國藩剿辦沿江一帶賊匪，勿稍延緩。三月，遵旨銷假。五月，會曾國藩於安慶，率師船東駐烏江；以其為上下遊適中地，足資策應故也。八月，更名嶽斌，赴勘下遊要口；疾作，還烏江。九月，聞金柱關有警，率丁泗濱、彭楚漢等力疾赴援，敗之龍山橋，殲賊萬餘。十一月，偽侍王李侍賢，由東壩再犯金柱關。嶽斌苦戰，急擊之，斬賊酋陳緒賓，破護駕墩、石垝等處賊壘。於是，金柱關、蕪湖一帶肅清，江寧大營後路始固。
二年二月，曾國藩來烏江，偕嶽斌至大勝關，入雨花台，商定合圍江寧之策。三月，攻克黃池，悉收內河、三裏埂、伏龍橋、花津、護駕墩各隘，以通寧國、蕪瑚之氣。五月，克巢縣、含山、和州及江浦、浦口，破下關、草鞋夾、燕子磯，趨九洑洲，力戰拔之。自此，長江南北數千裏，無一賊船，皆水師酷暑鏖戰之力也。十月，克高淳、寧國府、建平、溧水，奪東壩要險，大軍尋合圍。嶽斌以水師防剿稍鬆，瀝陳親老病劇，懇開缺回籍養親。諭曰：楊嶽斌督率水師，剿賊十年，戰功懋著；此時長江肅清，雖水師防剿稍鬆，而金陵合圍，正賴該提督等和衷努力，共奏膚功，同膺懋賞。未便於軍務吃緊之時，遽易生手。著俟克複金陵後，再行請旨。惟念楊嶽斌軍旅羈身，伊父母年老多病，未能歸省，著加恩賞給人參四兩，藉資調攝。時，發逆群竄江西及安徽徽寧一帶。
三年四月，詔嶽斌以提督督辦江西皖南軍務；該處帶兵員弁及赴援江西各軍，均歸節製。五月，授陝甘總督，命迅赴江西督飭諸軍，力圖掃蕩；俟江皖賊氛淨盡，即行前赴陝甘任事。六月，江寧克複，賞一等輕車都尉世職，並加太子少保銜。嶽斌抵南昌，即日出師督剿，察看各路形勢，調回水師五營，分布贛河。七月，分遣諸將，拔崇仁、東鄉、金溪、宜黃、南豐，解寧都州圍，馳抵贛州。八月，克瀘溪、新城、雩都，先後收降十餘萬眾。自是，建撫、贛南、廣饒各路及皖南徽寧各防，次第肅清。九月，瀝陳傷疾難支，親老多病，懇請開缺。諭曰：楊嶽斌統兵十餘年，衝冒矢石，力疾苦戰，傷病交作，且其父母年皆七十有餘，原應俯如所請。惟甘省軍情，關係極為緊要；朝廷正資倚畀，自未便遽令回籍。著賞假一個月，在營趕緊醫治，假滿即赴新任，毋庸開缺。嶽斌疏言：甘省逆回黨羽眾多，心誌齊一，必得一、二萬得力之師，方能挫其凶鋒。惟舊部本屬水師，並無陸隊，此次來江剿匪，僅由金陵大營抽帶千餘人，勢難遠調。惟有親赴湖南募勇，即輿疾南歸，先遣得力營官認真招募精勇七、八千人；即可趁此訪醫調治，就近省親。至招募經費及製辦軍械等件，所需甚钜，擬於各近省設法籌撥；並請飭安肅道蔣凝學、署皖南鎮總兵唐義訓兩軍赴甘助剿。詔嘉其勇於任事，所籌周妥，悉從之。