不斷更新的湘軍
很多領導者最大的麻煩、最感頭痛的是：隨著組織的發展壯大，隊伍越來越大，人多成為組織的巨大包袱，卻苦於沒有辦法解決。中國的機構改革自武則天以後，從來沒有改出偉大的成就出來，原因就是沒有好的措施。曾國藩找到了一個解決機構臃腫、人員龐大的問題，保證了湘軍的“常新之氣”。這種辦法，就是淘汰製度。所謂淘汰，就是將不合格的勇從自己的組織中剔除出去，發給路費，打發他們回家。淘汰是曾國藩製勝的殺手鐧，是提升軍隊戰鬥力的有力武器。
精挑細撿，從源頭上堵。對於勇的挑選曾國藩是非常講究的，要求做到“須擇其精而又精者”，他曾經囑托彭洋中給他在邵陽招募一個親兵營，共需360人，但彭隻招募了100多人，曾國藩說：“但求其精，不必取盈三百六十之數，若買菜求益也。”寧缺毋濫，是其挑選勇的基本準則。有一次他看見蔭翁招募的600名邵陽勇，一個個“身材堅實，技藝矯健，不特遠過湘勇，抑超乎岷老新寧諸勇之上”。看到這麼好的勇，曾國藩就想挖到身邊來當親兵。可是蔭翁不給。沒有辦法隻好從其他的160人中挑選，最後隻選了103人。曾國藩選勇有“五不”：城市人不選，標兵不選，浮滑者不選，體弱者不選，逃兵（勇）不選。一味到窮鄉僻壤、深山老林中去尋找那些樸實、有家產的老實農民。他們吃苦耐勞，誠實可愛，尊敬統領，忠誠組織，團結互救，名利淡泊。有了這樣一支軍隊，還怕打不贏仗？
察看實驗，從訓練與實戰中選。第一道關過了之後，不一定就可以真正成為一名勇，還要看操練，還要經得起實戰。他認為：
前此為赴鄂救援之行，不妨倉卒成軍，近日為東下討賊之計，必須簡練慎出。若不教之豕，仍同灞上兒戲之軍哉!故此行不可不精選，不可不久練。
簡練慎出，就是要對已經招募的士卒再一次挑選。1853年10月有湘勇5500人，曾國藩認為太多，必須“嚴汰慎選”。這5500湘勇，有的是從援救江西回來的，有的在鎮壓湖南土匪中立過戰功，應該算是老兵了，但是曾國藩還是要求淘選，可見其對士卒素質的重視。湘軍行軍打仗時間一久，這樣那樣的問題也就出現了。“曆歲稍久，亦未免沾染習氣。”沾染了習氣怎麼辦？“凡官氣重、心竅多者，在所必斥。”淘汰就是“斥”的一種。王鑫死後。老湘營由張凱章負責，張凱章刻的關防印信為“統領老湘營”，吳翔岡不服從他的指揮，嘲笑他的關防。曾國藩認為這是不團結的表現，批評吳翔岡，最後撤調了吳一軍。李元度徽州之戰失敗後，他招募的平江勇經過淘選後由左宗棠管帶。
統領換人，撤銷機構，另起爐灶。統領由於身體健康，或者犧牲、病故等原因，退出指揮機關，他所統領的軍隊怎麼辦？是不是立即安排一個新的統領接班呢？政府軍隊的做法是這樣的，但是湘軍卻不完全是這樣的。為了保證士卒對新的統領的依賴、服從，必須撤銷舊的編製，由新統領重新招募。士卒還是那些士卒，當然有一部分被淘汰了，但卻是新的統領的士卒，與舊的統領沒有關係了。
在不斷淘汰湘勇的同時，曾國藩還注重輸入新的血液。經過大戰或者疾病後，軍隊減員現象很嚴重，需要經常增加兵員，這就需要統領回家鄉募兵。曾國荃在攻下漕運、進駐雨花台後，曾經回家募兵，擴充了實力。1862年開辟上海戰場與浙江戰場，他組織了淮軍、左軍。新軍的成立，大大增加了湘軍的戰鬥力，為其事業的成功插上了騰飛的翅膀。