同治十一年（1872），曾國藩漸感身體不適，事實上自從天津教案之後，他的身體就一直很差，經常會感覺右腳麻木，沒知覺，而且也常常會抽風。有一次曾國藩去會客，走到半路的時候，忽然一口痰上來，壓得他很難受，幾番想和別人說話都說不出來。
到了同治二年的二月，曾國藩身體更是越來越差。二月初四的這一天，曾國藩在兒子曾紀澤、小女兒曾紀芬的攙扶下想四處走走，當他走到院子裏時，忽然感到雙腳再次麻木，想走都走不動了，緊跟著他開始不住地抽搐，曾紀澤和家人趕快攙扶他坐下，他已經說不出話了。沒過多久，曾國藩溘然長逝。
曾國藩逝世的消息傳到北京，朝廷震動，輟朝三日，追贈太傅，賜諡號“文正”，另外賞銀三千兩治喪。“文正”是非常高的評價，意為德才兼備、恪盡職守、忠君愛民。終清一代，獲得這個諡號的人寥寥無幾。
曾國藩一生既統領湘軍剿滅了太平軍，又深諳官場之道，位極人臣。曾國藩不但在教育子女、為人處世、交友待人等方麵都有過人之處，還是個大學問家，承上啟下，中興桐城一派。曾國藩堪稱近代中國的一個完人，儒家宣揚立德、立功、立言“三不朽”，他都做到了。他為無數後人所稱頌，毛澤東說他獨服曾文正，蔣介石對他也推崇有加，梁啟超對曾國藩文集更是愛不釋手。
但曾國藩同時也被無數後人所唾罵，有人說他是民賊，有人說他是劊子手，有人說他是賣國賊。
他以湘軍拯救清朝於大廈將傾，將清朝的統治又延續了幾十年，若不是曾國藩，清朝在太平軍起義時可能就完了。也正是曾國藩埋下軍閥割據的種子，從他之後，天下督撫個個擁兵自重，曾國藩死後，他的弟子李鴻章、湘軍將領劉坤一等人居然敢於不聽清朝號令，自己搞東南互保。
如何評價曾國藩，這是一個很難的問題，一百多年來，無數人在議論曾國藩，讚賞他的把他看做聖人，厭惡他的把他比作奸賊。因為曾國藩本來就是這麼一個複雜的人，他替腐朽沒落的清政府鎮壓太平軍的起義，以衛道士的形象維護封建的綱常倫理，但是另一方麵，他處在那個全民愚昧的年代，居然支持翻譯西洋書籍、學習西洋技術、向西洋派遣留學生。在當時大多數官員冥頑不化的情況下，曾國藩能開眼看世界，力求通過學習西方振興中國，這是非常難能可貴的。
他既宣揚仁愛，又搞屠殺。他身處中國從自我閉塞到融入世界的轉變時期，思想裏既保留著古老的東西，又接受了一些新的東西，他本來就是矛盾的，所以非要給他一個評價的話，那隻能是：譽滿天下，謗滿天下。