為求機局多變，曾國藩還很注意重兵與輕兵，呆兵與活兵之辨。他說：”進退開合，變化不測，活兵也；屯宿一處，師老人頑，呆兵也。多用大炮輜重，文員太眾，車船難齊，重兵也；器械靈活，馬馱輜重，不用車船轎夫，風馳電擊，輕兵也。“他指出：”我的拙見，總宜有呆兵，有活兵，有重兵，有輕兵，缺一不可。“但他主張”宜多用活兵，少用呆兵；多用輕兵，少用重兵。“或者”半活半呆，半剿半守，更番互換，乃能保常新之氣。“”至軍務之要，亦有二語，曰堅守已得之地，多籌遊擊之師而已。“他批評向榮、和春的江南大營之敗，在於”以重兵株守金陵，不早思變計“,即不知於”空處著筆“,運用輕兵、活兵之妙。所以，他堅決反對曾國荃頓兵金陵城下，”以數萬人全作呆兵，圖合長圍“.他反問道：”今豈肯以向、和為師，而蹈其覆轍乎？“
於是引發了他與曾國荃之間是否從金陵撤圍的一場爭論。1862年10月13日開始，李秀成率大隊救援天京，與湘軍激戰於雨花台。11月26日，太平軍解圍失利，從天京撤走。經過這一番風險和驚恐，曾國藩認為自己”長一分大閱曆“.他檢查說：”弟（指曾國荃）之驟進，餘之調度，皆輕敵而不能精審。“他根據雨花台湘軍東西無援軍的情況，正確地指出：”若長紮雨花台，以二三萬勁旅屯宿該處，援賊不來，則終歲清閑，全無一事；援賊再來，則歸路全斷，一蟻潰堤。此等最險之著，隻可一試再試，豈可屢屢試之，以為兵家要訣乎？“因此，他主張湘軍向太湖方向”不經意之處“退兵，其中曾國荃部由東壩、溧陽以進宜興，以金柱為後路根本，鮑超部由建平、廣德以進長興，以蕪湖為後路根本；待在太湖辦成水師之後，陸師無後顧之憂，再向金陵進軍，”亦不過數月事，未為晚也“.這個退兵計的核心，是變屯於堅城之下的重兵、呆兵為輕兵、活兵。他向曾國荃明確指出：”弟統二萬人，不籌出一支結實可靠之活兵在外縱橫馳擊，而專以合圍攻堅為念，似非善計。“他說，向太湖西岸退兵，”環湖之十四府州縣處處震動，賊則防不勝防，我則後路極穩，較之株守金陵者，有死活之分，有險易之別，但無赫赫之名耳。“針對曾國荃貪功求名的心理，他勸導道：”吾兄弟誓拚命報國，然須常存避名之念，總從冷淡處著筆，積勞而使人不知其勞，則善矣。“他對曾國荃不但諭之以理，而且動之以情：此次退兵，”即所以保全局而救阿兄也“;否則，”餘之公局固壞，而弟以重兵屯宿該處，如餘之株守南康，和、張之株守金陵，弟之私局亦必壞“,屆時”恐求退而不得，求保蕪湖、金柱而不得“.但獵名心切的曾國荃終不聽阿兄的調度，未向太湖方向遊擊。曾國荃最後取得圍攻金陵的勝利，是由於太平軍已成強弩之末，無力解圍，再加上曾國藩不斷派鮑超等部馳騁長江兩岸，南北衝擊，以解曾國荃金陵圍軍的後顧之憂，而並非曾國藩變重兵、呆兵為輕兵、活兵之計為失策。今天進行曆史的審視，曾國藩關於在太平軍虛處、空處著力的退兵方案，無疑是有理有節、穩妥可靠的。
虛實、正奇、呆活、輕重，以戰場上如何具體運動，關鍵取決於見機審勢。同治元年三月，曾國荃部將南渡長江以進金陵時，曾國藩指示說：”以你軍目前的情勢來看，若在下遊采石渡江，隔斷金陵、蕪湖兩賊之師，下窺秣陵關，這就得勢。若在上遊三山渡江，使巢、和、西梁留守之師與分攻魯港之兵隔氣，這就失勢。“--這是在用兵地點上審勢之一例。”至於進兵金陵早遲，亦由弟自行審察機勢。機已靈活，勢已酣足，早進可以；否則不如遲進。“--這是在用兵時間上審勢之一例。他概括地說：”用兵以審勢為第一要義。“
但他在另一處說：”審機審勢，猶在後來，第一先貴審力。審力，知己知彼的切實工夫。“”古人說，兵驕必敗。老子說，兩軍相對，哀者勝。不審力，這就是驕；審力而不自足，這就是老子所說的哀。“審力，是指戰員的基本功；審機審勢，則是對指戰員的更高要求。鹹豐五年，湘軍水師被分割為外江、內湖兩部分，進擊無力，陸師圍攻九江，也久攻而不下，曾國藩駐紮南康，一籌莫展。太平軍則乘機西上，第三次攻克武昌。八月，羅澤南至南康、湖口一看，”自知兵力不足以圖功“,便毅然率勇揚長而去，棄贛奔鄂。曾國藩後來多次提到這一事例，盛讚說：”有識者皆佩服羅山用兵識時務，能取遠勢。餘雖私怨羅山之棄餘而他往，而未嚐不服其行軍有伸有縮，有開有合也。“