太平軍水營建立後，轉戰在廣闊的江河湖海。清軍經製的八旗水師和綠營水師在太平軍水營的痛擊之下，潰不成軍。長江中下遊的大部分水麵被太平軍控製，水營戰船“行則帆如迭雪，住則檣若叢蘆，炮聲遙震，沿江州邑，無兵無船，莫不望風披靡”。（《賊情彙纂》卷五）麵對這種生死攸關的局麵，清政府不得不下令興辦團練，協助經製部隊作戰。辦團練最積極的是湖南的曾國藩。在他主持之下，一支新式地主武裝——湘軍誕生了。它既不同於業已腐敗不堪的八旗和綠營部隊，也不同於以往僅能輔助作戰的團練。盡管初期它仍打著團練的旗號，但采取的卻是一整套完全嶄新的募兵選將、訓練、籌餉製度和作戰原則。經製軍不頂用了，多數地方的團練也被太平軍消滅了，而湘軍卻越戰越強，成為攻占天京，扼殺太平天國的主要力量。水師是湘軍的重要組成部分。湘軍水師在訓練、作戰等方麵有自己鮮明的特點，是—支戰鬥力很強的水上武裝，其活動範圍主要在長江中遊地區。
淮軍是李鴻章統領的一支地主武裝。淮軍創建初期的基幹部隊調自湘軍，采用的軍製也大部分參照湘軍軍製。淮軍也是鎮壓太平天國運動的一支重要力量，在武器裝備方麵則超過了湘軍。淮軍水師本身成立時間短，體製也不完整，因此作戰能力較低。但配屬淮軍指揮的淮揚水師和太湖水師卻不同。它們的骨幹都來自湘軍水師，是完全按照湘軍水師體製新建的水師部隊，戰鬥力很強。淮軍水師活動在長江下遊地區。
湘軍水師
湘軍水師是湘軍中的一支突擊力量，機動性強是它的最大特長。作戰時，湘軍水師通常能夠調動整建製的部隊全力以赴，而不像八旗、綠營水師那樣因擔負許多地區的防務而分散了兵力。
1.湘軍水師的沿革
鹹豐三年（1853年），太平軍西征作戰時，水營發揮了很大作用，促使曾國藩下決心建立湘軍水師。南昌戰役之後，曾國藩到達衡州，開始設廠造船，招募水勇，選拔將領，開始籌建水師。
次年正月，已造成新船241艘，改造戰船120艘，征用民船100餘艘，自造和購買的火炮共570餘門，招到官兵5000人，正式編成湘軍水師10個營，以褚汝航為水師總統。在後來的作戰中，湘軍水師不僅有力地配合了陸師作戰，運輸糧草，轉移兵力，還經常獨當一麵，對太平軍的一些沿江要塞或軍營實施突擊，取得了豐碩戰果。曾國藩對水師的作用極為讚賞。他說：“欲出奇製勝，若非從水軍設法，則陸軍更不能出奇矣”。他還命令陸師必須“與水師處處相依”，“不宜遠離水師”，以收水陸配合之效。（《曾文正公全集·書紮》卷六）
由於曾國藩大力扶植，湘軍水師規模不斷發展，由初建時的10個營發展成外江、內湖、淮揚、太湖等4個水師集團（各轄水師營10個左右）。與此同時，水師官兵經過嚴格訓練，提高了軍事技能，船炮質量也有很大改進。因此，湘軍水師經過長江上的幾大規模水戰之後，從太平軍水營手中奪回了被八旗、綠營水師丟失的長江中下遊流域的控製權，在戰略上占據了主動地位。因此，戰後“朝廷論平寇功，以國藩創立舟師為首”。（王定安：《湘軍記》卷二十）
太平天國運動失敗之後不久，湘軍陸師幾乎全被遣散，隻留下湘軍水師改編成為清軍經製長江水師等部，這在清軍曆史上是僅有的。
2.湘軍水師的戰船和兵器
湘軍水師十分重視改進戰船和兵器。曾國藩說過：“水師事宜，以造船置炮二者為最要。”
湘軍水師的新戰船多由長沙、衡州的船廠製造，主要有長龍船和舢板2種，此外還有少量的快蟹船。
建軍初期，由於新造戰船一時不能滿足需要，湘軍水師曾購買了120艘釣鉤船，稍加改造，成為戰船的一種。待新戰船大批峻工後，這些臨時戰船就逐漸被淘汰了。為了解決輜重水上運輸問題，湘軍水師還征集了不少民船，其船種繁多，經常更換，不列入水師正式編製之內。
下麵著著重介紹湘軍水師的主力戰船——長龍和舢板：
長龍船長4丈1尺，底中寬5尺4寸。長龍船頭裝炮2門，炮重800～1000斤；船兩側共裝炮4門，炮重700斤；船尾裝炮1門，炮重700斤。長龍船同快蟹船一樣，裝有固定的窗木鬲，可供居住。
舢板船底長2丈9尺，底中寬3尺2寸。督陣軍官的大舢板尺寸略大。舢板船頭裝炮1門，炮重700～800斤；船尾裝炮1門，炮重600～700斤；兩側共裝炮2門（腰炮），炮重40～50斤。舢板露載無篷版，隻在停泊時才支起夾帳，供水兵住宿，行船前拆除。
湘軍水師戰船上多用“洋炮”（當時稱作“洋莊”）。這是當時從英、美、法等國商人那裏購回的一種舊式前膛熟鐵炮，比中國土製的鐵炮、銅炮威力要大，並不易炸膛。湘軍水師初建時，共裝備了600門。3年後，擴充到2000門。湘軍水師戰船上還配有“洋槍”及鳥槍、噴筒、大刀、短劍、長矛等兵器，以備近戰。
3.湘軍水師軍製
湘軍水師初建時，每個水師營編製官兵445人，共計10個營。各營名稱分別為：中正、前正、後正、左正、右正、中副、前副、後副、左副、右副。初設總統1人。後來，水師部隊有了很大發展，但水師營仍是基本作戰單位。幾個到10多個水師營組成一個水師集團，擔任一個戰區或作戰方向的作戰，各設統領1人，直接向曾國藩一人負責。
每個水師營設快蟹船1艘，作為營官的指揮船，船上設艙長1人，槳手、槽工、頭篙、舵手、炮手等共44人。每營還設長龍船和舢板船各10艘。每艘長龍船設管駕（即哨官）1人，水兵24人。每艘舢板船設管駕1人，水兵14人。
鹹豐五年（1855年）以後，湘軍水師根據實戰經驗，對營製作了一些變更：在江河行駛不便的快蟹船被裁去，每營的長龍船也減為8艘，而適於江河水戰的舢板增加到22艘。這樣，每營共有戰船30艘，官兵530餘人。後來，湘軍水師營數增加，但營製卻一直沿用到改編為長江水師為止。