廬州失守，江忠源自殺，清廷以嘈運總督福濟為安徽巡撫。李鴻章即率所部練勇投到福濟門下。同年2月，李鴻章之父文安亦奉旨回鄉辦理團練，與李鴻章一起，同受福濟節製。李氏父子皆進士出身，在本鄉頗有聲望，經李文安招撫編練，李部團練勢力逐漸擴大。廬州四練本有官團與民團之分。官團多興於東鄉，民團多興於西鄉。李鴻章所部
練勇為東鄉官團，其部下有李勝、張桂芬、張遇春、張誌邦等
人。西鄉民團有大潛山下劉銘傳、周公山下張樹聲、張樹珊兄弟及紫蓮山下周盛波、周盛傳兄弟，號稱三山團練，十分剽悍好戰。文安回籍後.為了擴大自身勢力，Br4西鄉民團張樹聲“如襄戎幕”，並通過他聯絡劉銘傳及周氏兄弟。此外，廬江團首播鼎新曾先後以李鴻章父子為師，彼此關係甚密，而潘鼎新與廬江另一團首吳長慶又為世交，李氏父子通過潘鼎新與吳長慶亦有聯係。因此，李鴻章與其父文安在淮南各團首中很有些號召力，而這些團首也就成為後來李鴻章創建淮軍的基本班底。
1854年冬，福濟督軍久攻廬州不下，李鴻章建議：欲攻廬州，應先取合山、巢縣，斷太平軍之接濟。福濟采綱其議，於1855年2月1日，命其率所部練勇會同千總莫青山佐領輯順攻占含山，敗太平軍。李鴻章以功賞知府銜，換花翎，由是以知兵聞名。含山既下，李鴻章與其父又隨同副都統忠泰進攻巢縣。由於太平軍力守，久攻不下，文安在軍中暴病身亡，李鴻章離軍奔喪。7月26日，太平軍萬餘人對忠泰營進行反攻，忠泰部清軍全軍覆沒，李鴻章因不在軍中得以身免。不久，李鴻章叉回軍中效力。11月10日，隨福濟、和春等圍攻廬州，由他聯絡監生魯雲鵬、紳士王南貧等人在城內糾眾千餘人為內應，清軍遂得以奪占廬州，奉旨交軍機處記名，以道府用。1856年10月下旬，又隨福濟等攻陷巢縣，進占無為、和州等地，賞按察使銜。李鴻章在福濟幕中，因福濟實不知兵，多從李鴻章之議，由是遭眾妒忌，頗不得誌，同年底便離軍，服喪守廬。朝廷以李鴻章迭次鎮壓太平軍出力，交軍機處記名，以道員補用。至此，李鴻章結束了辦理團練生涯。
2.剿殺撚軍或重臣
太平天國失敗後，撚軍成了反清主力。1865年6月18日，曾國藩奉命督師北上，同撚軍在安徽臨淮、河南周家口、江蘇徐州一帶展開對抗。但是一年多過去，曾國藩未能製服撚軍，反而被撚軍屢次打擊。清廷對此不滿，1866年12月7日改命李鴻章為欽差大臣赴山東督剿撚軍。
李鴻章在剿撚中，還根據戰爭態勢的變化，靈活地實施了曾國藩所製定的戰略方針。曾國藩剿撚方略的基本原則是“以靜製動”O在以前鎮壓太平天國的戰爭中，“以靜製動”是作為戰術原財力“以上製下”的戰略方針服務的。及至與撚軍作戰，情況就有所不同，撚軍沒有象太平天國那樣相對穩定的根據地，單純的流動的軍事鬥爭，“以走製敵”，為諸軍的最大特點。李鴻章說“撚逆狡猾善走，我軍急進則疲乏，或為所乘，他重或為所掠。又彼可到處擄糧，而我須裹糧前進。迫交鋒一不敵，則轉瞬數百裏”。湘淮軍恰恰相反。曾國藩嚐說：湘軍“行兵之例，每日行軍支帳埋鍋造飯，不向州縣索米供應，略師古法，日行僅四十裏或二三十裏。李鴻章之淮勇亦仿楚師之法，其步步穩妥在此，其行軍遲鈍亦在此。”麵對這種情況，曾國藩～改憎格林沁“威力追剿”的方針，確定了“以靜製動”的戰略方針。在具體部署上，有所謂“四鎮六遊”之說。他以安徽臨錢江蘇徐州、山東濟寧、河南周家口四處為“老營”，“各駐大兵，多蓄糧草子藥，為四省之重鎮，一省有急，三省往援”，並增設了六路“遊擊之師”，負責“追剿”，所謂“六遊分進，梭織不斷”。在此基礎上，他又東在運河、西在豫東的沙河和賈魯河設立“河防”，力圖圈製撚軍。在地方上則“查辦民圩”，加強堅壁清野和治安防範，割斷撚軍與人民群眾的聯係廣以清根本”O曾國藩意在以湘準軍之長，克撚軍之短，應該說是極為毒辣的。但是，對於這種部署，特別是沿河堤築牆設防，“聞者皆笑其迂”。時在後方的李鴻章也不以為然，致書襄辦曾國藩軍務並建河防之策的劉秉灣諷刺說：“古有萬裏長城，今有萬裏長牆，不知秦始皇千年後遇公等知音。”然而，當他掛帥剿撚後，擺情度勢，才體察到曾國藩戰略部署的深意。縱觀李鴻章剿撚戰略的實施，大致經曆了三個階段。
第一階段從1866年12月至次年5月間實施了“臼口之圍”，主戰場在湖北。
在此期間，由於李鴻章的戰略布置不利於湘軍，從而在戰鬥中使湘軍全軍覆沒，而淮軍卻反而增強了實力。
第二階段從1867年6月至1868年1月部署實施運河。膠萊河之防，主戰場在魯東地區。李鴻章鑒於撚軍深入膠萊一帶，不但部署倒守運河，而且又在膠萊河兩岸增設了內層防線，縮小兜剿圈，企圖把撚軍聚殲於膠萊海隅，萬一撚軍突破膠菜防線，還有運河防線以資保障。在膠萊河防線上，他安置了劉銘傳、沈宏富、董鳳高、潘鼎新四軍46營和魯軍31營，分段防守，每營防地三裏多長。為了保障運、膠防線，李鴻章還奏準三口通商大臣崇厚、直隸總督劉長信李軍防守黃河，由增運總督張之萬率軍防守蘇北大塘河。這樣，東西南北四麵就各以河為險構成了一個包圍圈。但是，東撚軍卻於8月在膠萊防線北端海神廟一帶魯軍防地衝破防線，渡過濰河、使得李鴻章苦心經營的膠萊防線告潰。在這種情況下，李鴻章一麵主動致書丁寶幀“講好”，一麵堅持既定方略。他特別加固運防，親自駐守台兒莊就近督導，並先後設立四支由淮軍精銳組成的“遊擊”之師，計有戰馬8千匹，以騎敵騎，追擊撚軍。這樣，就使東撚軍陷入危殆的處境：它雖然突破了膠萊防線，但仍被困於黃河、運河、六塘河、大海之間的狹窄地帶，“以走製敵”的特長無法施展，屢屢受挫。11月任化邦在蘇北贛榆戰敗被殺。12月東撚軍在壽光海濱一戰折損3萬餘人，精銳喪失殆盡O1868年1月賴文光雖然率餘部突過六塘河，但孤危之中受傷被俘，在揚州被害。東撚軍終於被李鴻章鎮壓下去。這一結局表明，李鴻章的戰略指導是基本正確的。
第三階段是1868年上半年在直東戰場與西撚軍作最後決戰。
當東撚軍在山東被困之際，賴文光曾派人間道向正在陝西活動的酉撚軍求救。張宗離等聞訊，立即由綏德率軍東下，經山西、河南，北進冀中、準備以“圍魏救趙”之策，直搗北京，謀解東撚軍山東之圍。1868年2月，西撚軍挺進到保定、滿城一帶（尚不知東撚軍已經失敗），清廷大震，急命剿撚欽差大臣李鴻章和專辦陝甘軍務的欽差大臣左宗棠以及各地將領北上“勤工”。李鴻章奉旨後，因與左宗棠不協，自己又未能總投攻搶大權。恐“事權不一，糧響不濟”，不免牢騷滿腔。但他畢竟不敢耽誤“勤王”大事，隨即傳令所部將帥北援。可是，此時正在濟寧度歲的淮軍諸將，也因湘淮兩係之間的矛盾，卻借口度歲休整，按兵不動。李鴻章難以應命，以致久未奏複。清廷聞訊大怒，命膠李鴻章翎衣世職。淮軍選將始感到事態嚴重，於是陸續帶兵北上，使李鴻章得以渡過難關。事後，李鴻章向曾國潘訴苦說：“鴻章此行，迫於大義，吃苦受氣，是分內事。擬再與左公議和，但勿相見，決不失敬。”為了彌合李、左之間的矛盾，清廷於2月27日命恭親王奕折為大將軍，以李鴻章、左宗棠為參讚大臣，以一事權。
3月10日，李鴻章抵直隸景州，所統各部淮軍也相繼進至冀中前線，加上先已到達的各省“勤王”部隊不下10萬之眾O3月中旬，西撚軍為了擺脫各路清軍的包圍，由冀中南返，行至饒陽，遭清軍襲擊，邱遠才、張禹爵兩員大將同時犧牲，士氣受到很大影響。張宗禹率軍繼續南走，渡涵淪河人河南，擬人晉東南，以甩開清軍。但淮軍接朗而至，堵住西進之路。西撚軍在清化鎮稍事休整後，立即折而東行，出延津平原，於4月17日由山東東昌府李海務渡過運河，進到直魯邊界地區就食。
是時，清廷以西撚軍進人山東，命李鴻章總統山東前敵各軍。4月下旬，西撚軍出德州，經滄州，進逼天津，旋即返回山東。清廷因搶軍曾逼近天津，京師受到威脅，將李鴻章、左宗棠降二級留任，並限期一個月消滅西撚軍。5月ZI日，李鴻章與左宗棠會於德州桑園，議定，“‘就地圈圍”之策。其軍事部署是：在北麵，掘開滄州以南的捷地壩，引運河水人減河，命崇厚洋槍隊和淮軍潘鼎新部防守，阻扼西撚軍北上；在西麵，於張秋一帶引黃河水人運河，命準軍、東軍、皖軍分段駐守；在南麵，封鎖黃河各渡口，將船隻一律調至南岸，由山東地方官帶隊把守；在東麵，嚴禁漁船下海，防止西撚軍渡海他走。此外，調戰鬥力較強的湘淮軍為“遊擊之師，進人包圍圈內跟蹤追擊。5月下旬至6月中旬，西撚軍在清軍包圍圈內，忽而北上，忽而南下，幾次搶渡運河均遭失敗。但李、左二人也因一個月的限期已到，受到“交部議處”的懲戒。李鴻章為了盡快地消滅西撚軍，又決定“乘黃河伏汛，縮地圈紮”，即以運河為外圍，以馬頰河為裏圍，將西撚軍壓縮在馬頰河以南、徒駭河以北的狹長地帶，並在圈內實行堅壁清野，使西撚軍無所就食。這一來，西搶軍的處境更加困難，士氣日益低落，以至接連發生投降事件。7月中下旬，酉撚軍與跟蹤追擊的湘淮軍數次接戰，連遭慘敗，張宗禹也中彈受傷。8月上旬，張宗禹率餘部突圍至德州桑園、二屯、老君堂等處搶渡運河，均未成功。複北上直隸鹽山，又為清軍所阻。轉趨山東高唐、博平，適逢黃河、運河、促駭河河水交漲，處境更難。8月15日，由博平走東昌、退在平廣平鎮016日，在向東北方向轉移途中，與湘準軍主力劉銘傳、郭鬆林、潘鼎新等部遭遇，經過激戰，西撚軍數千將土全部犧牲，張宗禹僅帶28騎突圍而出，走到徒駭河邊，“穿林水，不知所終”。酉撚軍覆滅，清廷開複李鴻章迭次降革處分，井賞加太子太保銜，以湖廣總督協辦大學土。