曾國藩羞憤交加，下大力氣整頓湘軍，過了三個月，再戰嶽州，於6月份攻陷。同年10月，曾國藩督戰，經過激烈的爭奪，又攻下了武漢。曾國藩這時總算報了嶽州之敗的仇，情緒高漲起來，叫囂道：“肅清江麵，直搗金陵。”
1855年（鹹豐五年），曾國藩進逼九江。這時，太平天國起義軍開始認真對付曾國藩了，派石達開為統帥，大舉向西增援。石達開是一位智勇雙全的著名將領，他設計把曾國藩的水師誘入鄱陽湖，再堵住湖口，打敗了湘軍，焚燒了戰船。曾國藩看到苦心經營的水軍又一次化為泡影，連自己的坐船都被燒掉了，不得不隻身逃走，更是羞憤交加，再次投水而死。這次投水幸虧被部下拉住，免受了入水之驚。曾國藩兩次投水，未得其死，也許僅是做做樣子，並未真的想死，隻是收攏人心而已。
石達開打敗了曾國藩的這支在當時看來生氣勃勃的軍隊，太平軍又打破了清軍的江南大營和江北大營，軍事上威震全國，大有奪取全國之勢。可就在此時，太平軍內部發生了嚴重的分裂，為爭權奪利相互殘殺，楊秀清、韋昌輝、秦日綱等著名將領先後被殺，兩萬多精銳死於內亂，石達開又帶十萬精兵出走。太平天國從軍事上的全盛時期走向了軍事上的下坡路。
此時，曾國藩趁機再奪武漢，並在與陳秀成激戰後奪得安慶。1860年（鹹豐十年）8月，曾國藩受命為兩江總督，督辦江南軍務，有了更大的指揮權，遂派三路軍馬發起進攻：李鴻章率自己的淮軍保上海進攻蘇南，曾國荃率主力進攻天京，左宗棠進攻浙江。太平軍由於士氣低落，戰鬥力大大下降，所以連吃敗仗。再加上英國“常勝軍”的支持，無錫、常州、蘇州等地連續失陷。1864年（同治三年）6月3日，洪秀全在絕望中死去。
曾國藩的湘軍入天京後，見人即殺，見屋即燒，以至“秦淮河屍首如麻”。湘軍見物即搶，“子女玉帛悉數掃入湘軍”。曾國藩完成了他率湘軍攻滅太平天國起義軍的“元凶”的使命，由於他善於玩弄權術，接著又一步步地登上了“聖相”的位置。
曾國藩在攻打太平軍十二年的曆程中自然並非一帆風順，他數次戰敗，兩次投水自殺，還有一次因害怕李秀成的大軍襲來而數日懸刀在手，準備一旦兵敗，即行自殺。他雖然忠心耿耿，但還是屢遭疑忌。在第一次攻陷武漢之後，捷報傳到北京，鹹豐帝大為高興，讚揚了曾國藩幾句，但鹹豐身邊的近臣說：“如此一個白麵書生，竟能一呼百應，攻克武漢，並不一定是國家之福。”鹹豐聽了，默然不語。
曾國藩也知會遭人疑忌，便借回家守父喪之機，帶著兩個弟弟（也是湘軍重要將領）回家，辭去一切軍事職務。過了近一年，太平軍進攻盛產稻米和布帛的浙江，清廷恐慌，又請他出山，並授他兵部尚書頭銜，給了他軍政實權。不久，慈禧太後專權，認為滿人無能，就重用漢人，為曾國藩掌握大權提供了一個重要的曆史契機。
1862年（鹹豐十二年），曾國藩被授以兩江總督節製四省軍政的權力，巡撫提督以下均須聽命，不久又被賜以太子太保頭銜，兼協辦大學士。自此以後，曾國藩在清廷中有了舉足輕重的位置。
曾國藩急流勇退的方式進一步獲得了清廷的信任，在取得了大權，進攻太平軍勝利以後，他仍然小心翼翼。由於曾國藩的湘軍搶劫吞沒了太平軍的很多財物，使得“金銀如海、百貨充盈”的天京人財一空，朝野官員議論紛紛，左宗棠等人還上書彈劾。曾國藩既不想也不能交出所擄財物，因此他在進京之後，急忙做了四件事：一、因怕權大壓主而退出了一部分權力；二、因怕湘軍太多引起疑忌而裁減了四萬湘軍；三、因怕清廷懷疑南京的防務而建造旗兵營房，請旗兵駐防南京，並發全餉；四、蓋貢院，提拔江南士人。
這四策一出，朝廷上下果然交口稱譽，再加上他有大功，清廷也不好再追究什麼。他的恭謹態度，更加深了清廷對他的信任，於是又加恩賞以太子太保銜，賞雙眼花翎，賜為一等侯爵，子孫相襲，代代不絕。至此，曾國藩榮寵一時。
曾國藩還曾打過撚軍。撚軍首先在淮北一帶零星起事，後逐漸彙成大流，又得太平軍相助，遂成大勢。清廷本想派蒙古貴族僧格林沁鎮壓，以顯示並非隻有曾國藩一類的漢人才有用，但僧格林沁被撚軍擊斃，無奈又得派曾國藩出馬。曾國藩不像僧格林沁那樣緊追撚軍，而是堅壁清野，實行圍堵的政策，後來還是被撚軍衝破，終於無功。後經曾國藩的學生李鴻章出馬，才算壓住了撚軍。
曾國藩還是洋務運動的重要人物之一，他讚成購買洋船洋炮，又派李鴻章等人“師夷人之長”，學習洋人的技術，網羅科技人才，建立槍械工業，對開礦等也有所提倡。他還注意選拔人才出國學習，在國內也主張設立學館，培養人才。
曾國藩之所以成為所謂的“聖相”，“聖”就“聖”在他是封建道學的理論家和實踐家。曾國藩極為推崇程朱理學，並且深入研究，提出新的理論，認為做學問就是為了恢複人性，就是恢複天地間的“理”和“氣”，使人這一正氣的凝結物載以封建道德的靈魂。這一點，與程朱理學的思想脈絡是完全一致的，都是維護封建道德的。