曾國藩作為近代著名的政治家，對“乾嘉盛世”後清王朝的腐敗衰落已經了然於心，他說：“國貧不足患，惟民心渙散，則為患甚大。”對於“士大夫習於憂容苟安”，“昌為一種不白不黑、不痛不癢之風”，“痛恨次骨”。他認為，“吏治之壞，由於群幕，求吏才以剔幕弊，誠為探源之論”。基於此，曾國藩提出，“行政之要，首在得人”，危急之時需用德才兼備之人，要倡廉正之風，行禮治之仁政，反對暴政、擾民，對於那些貪贓枉法、漁民肥己的官吏，一定要予以嚴懲。
至於關係國計民生的財政經濟，曾國藩認為，理財之道，全在酌盈劑虛，腳踏實地，潔己奉公，“漸求整頓，不在於求取速效”。曾國藩將農業提到國家經濟中基礎性的戰略地位，他認為，“民生以穡事為先，國計以豐年為瑞”。他要求“今日之州縣，以重農為第一要務”。受兩次鴉片戰爭的衝擊，曾國藩對中西邦交有自己的看法，一方麵他十分痛恨西方人侵略中國，認為臥榻之側，豈容他人鼾睡，並反對借師助剿，以借助外國為深愧；另一方麵又不盲目排外，主張向西方學習先進的科學技術。
曾國藩是清末著名理學大師，學術造詣極高。他說，“蓋真能讀書者，良亦貴乎強有力也”，要有“舊雨三年精化碧，孤燈五夜眼常青”的精神。寫字或陽剛之美，“著力而取險勁之勢”；或陰柔之美，“著力而得自然之味”。文章寫作，需在氣勢上下工夫，“氣能挾理以行，而後雖言理而不灰”。要注意詳略得當，詳人所略，略人所詳，而“知位置者先後，剪裁之繁簡”，又“為文家第一要也”。為文貴在自辟蹊徑，“文章之道，以氣象光明俊偉為最難而可貴”。“清韻不匱，聲調鏗鏘，乃文章第一妙境”。
◎ 不可思議的湘軍
太平天國起義猶如一聲驚雷，使清朝統治者及大小地主階級大為震撼，惶惶不可終日。清政府為此調動大批軍隊對太平軍進行圍追堵截，同時飭令各地興辦團練，作為鎮壓太平軍和綏靖地方的補充力量。正當剛來湖南任巡撫的張亮基為此頗費思量的時候，幕僚左宗棠獻計說，正在家中為母守喪的原禮部侍郎曾國藩既具資曆、聲望，又諳熟湖南地方人情，當堪此任。張亮基聞聽大喜，當即奏準朝廷，留其“幫同辦理本省團練鄉民搜查土匪諸事務”。
曾國藩對辦團練曾有過短暫的猶豫，但經不住其友郭篙亮的敦勸和其弟曾國荃的慫恿，決定“墨從戎”，“酬君恩、興家族”，以實現其“澄清天下”的大誌。公元1853年1月底，曾國藩前往省城長沙就任幫辦湖南團練大臣一職，中國曆史上最不可思議的一支軍隊由此產生。
辦團練以靖地方麵助軍力，自宋即有之，清乾嘉時曾用它來鎮壓過著名的川陝楚三省白蓮教大起義。鹹豐帝委任曾國藩為團練大臣，其意僅在於恢複和建立前代統治者在鎮壓農民起義之時采用過的地主團練。但曾國藩深知一般的團練因未經正規訓練，根本不足以對付太平軍，況且團練在鄉裏擾民，不得人心。鑒於此種考慮，曾國藩從出山之日起，就處心積慮地想創辦一支與眾不同的地主武裝。
曾國藩的計劃與湖南巡撫張亮基“委明幹官紳選募本省有身家來曆、藝高膽大之勇一二千名，即由紳士管帶，仿前明戚繼光束伍之法行之”的想法不謀而合。曾國藩一到長沙，張亮基即給予大力支持，並將羅澤南所率的湘勇、江忠源所率的楚勇，以及瀏勇、辰勇、寶勇、滬溪勇等各地團練調集到長沙，改為官勇，由巡撫和團練大臣指揮，統稱“大團”。然後，上奏鹹豐皇帝：“臣擬現在訓練章程，宜參仿前明戚繼光、近人傅鼐成法，但求其精，不求其多；但求有濟，不求速效。”表達他將訓練官勇別樹一軍的願望。在得到鹹豐皇帝令其“悉心辦理，以資防剿”的朱批以後，曾國藩開始對省城的官勇進行“束伍練技”。經過選擇和裁汰後，雲集省城的各地練勇便成了湘軍的最初隊伍。曾國藩以遊擊色欽額總理營務，道員張其仁為總巡，又經左宗棠推薦都司塔齊布總理軍事訓練事宜。在張亮基、左宗棠、江忠源的支持推動下，建立湘軍的計劃有條不紊地開展起來了。