首先是大力整頓稅政，增加稅收。據行家估算，同治元年，上海的關稅一年就達到500萬兩。但李鴻章剛開始對上海的情況不大熟悉，署布政使吳煦又有意想壟斷財政權，李鴻章遂仿照曾國藩對江西的辦法，將上海財政一分為二，由吳掌管關稅收入，以備常勝軍、會防局和鎮江守軍支用；厘金則由李鴻章派人接管，以作為湘軍和淮軍的日常開支。數月後，吳卸署調往他處，上海財政全歸李掌握。隨著九江、漢口海關開征，上海關稅收入雖然有所下降，但厘金田賦卻因淮軍收複失地日漸增多。此外，還另外加收新的捐稅。再加上對吳煦所主持的弊端極多的各項稅政進行調整，處理不法的人員，重新製定章程，效果也很好。這樣，上海稅金估計年收入應該能達到500多萬兩。
其次，擴充實力。李鴻章帶至的上海陸營水師，總共不過萬餘人，加上其弟李鶴章由陸路帶來之馬步1500人，兵力合計12000人。這樣的規模肯定不能應付四麵皆敵的戰局。
李鴻章遂憑借上海財力，大力招兵買馬：一是招募新營，派張樹聲、吳長慶回皖招募九營，後又派人到蘇北招募五營。二是對上海原有綠營係統的部隊進行篩選、整頓、改編，其中少數仍由原有將弁管帶，而大多數則由其他人掌管。如郭鬆林原為曾國荃部將，隨李到上海後，李就命令他對綠營進行統一改編。對原有水師也采取同樣辦法，把曾秉忠部下的200號戰船減裁到170號。三是大量收編降眾，南彙、常熟、太倉等太平軍守將歸降後，有的整編，有的仍由降將帶領，而有的則分散編入各營，補充缺額；四是曾國藩代其組建由李朝斌統帶的太湖水師十營加入淮軍。五是吸收少量蘇杭地區的鹽梟槍船和團練，鄭國魁的兩營水師就是由鹽梟改編布成。經過各方籌集，至攻下蘇州時，李鴻章座下水陸軍已達7萬多人。
再次，更新武器。李軍初來上海時，武器裝備隻有冷兵器和原始熱兵器。之後不久，李鴻章就深感這些遠不及洋槍洋炮性能之優良，於是大量購買西洋武器，裝備部隊，並且吸取江南大營隻用洋槍不用西法訓練的教訓，聘請西人教練部隊，把部隊按西法訓練。至同治元年十月，所部“能戰之將，其小槍隊悉改為洋槍隊，逐日操演”。以後逐漸增加購買西洋武器，至四年春，“每營用洋槍四百餘，少亦三百餘杆”。這就是說，原有的原始熱兵器小槍抬槍和大部分冷兵器，已經基本上為洋槍所取代。與此同時，還增加了許多洋炮。
張遇春軍最早裝備洋炮，元年年底，李鴻章還親自對其操練進行視察，以後郭鬆林、劉銘傳、程學啟等軍也相繼用洋炮來進行裝備，甚至還組建撫標親軍炮隊，其中劉銘傳和程學啟擁有大炮更多達二三十門。所部會字營千人也是由英國人代為訓練成軍。三年常勝軍裁撤下來的炮隊600人，槍隊300人，外籍教官12人，又全部劃歸淮軍。而其所聘用的西人，平時訓練軍隊，戰時協同作戰。這一切，使淮軍擁有近代武器的數量在全國排第一，從而部隊的戰鬥力得到很大增強。
最後，增加了個人的主導權。李鴻章至上海後，仿效曾國藩的做法，除了其親弟李昭慶、李鶴章為統領外，還提拔重用同鄉親友。如劉銘傳、張樹聲、潘鼎新、吳長慶、周盛傳這些皖中最早參加淮軍的團練頭目，一一被提升為統領。還重用籍貫為安徽的原綠營將領和太平軍降將，前者像況文榜本為獲罪的敗將，李不僅未予懲處，還給其戴罪立功的機會；後者如從湘軍撥來之程學啟，和到上海後接收的降將駱國忠、吳建瀛等，也被提拔為統領或分統。此外，李鴻章還令同鄉好友蒯德模、蒯德標，鄉試同年淩煥，會試同年陳鼐等人，或主持營務，或委以厘局、糧台、文案等重任，蘇常收複以後，還重任其中一些人為實缺府縣官和道員。這一大批人，本來與李鴻章有私人交誼，現在又被破格提拔、委以重任，自然感恩圖報，對其唯命是從。
李鴻章所取得的顯赫成就，除了曾國藩的支持，以及巨額的上海稅收作為物質基礎外，也離不開西方國家的支持。李鴻章至上海後，就與西方各國軍政人員頻繁往來，參觀西方軍隊操演，並大批購進西方武器，采用西式方法進行訓練，聘用西方軍人，表現出友好的合作態度。再加上淮軍的戰鬥力又遠遠超出綠營，西方國家自然高興給他們供應武器，並為其進行軍事部署，訓練部隊，提供貸款。
經過同治前三年（1862～1864年）時間的堅持不懈的努力，李鴻章終於擺脫了淮軍對湘軍的附庸地位，使淮軍成為一支軍事、經濟實力雄厚的統一部隊，幾乎可以與湘軍分庭抗禮，同時也成為一個大的政治集團。
剿平撚軍
太平天國起義失敗
戰局惡化
曾國藩的湘軍從鹹豐九年（1859年）下半年開始重整旗鼓，再次朝安徽的太平軍發起進攻，駐池州守將韋俊向清軍投降。江南大營也加緊進攻天京，天京的局勢又開始變得緊張。鹹豐十年（1860年）一月，曾國藩的湘軍圍攻安慶。