他說廉矩的道理，不外“致賢”、“養民”和“正風氣”三端。風氣如何能正呢？必須先培養人才，使之各得其用，讓他們發生一種領導作用，這就是所謂致賢了。同時把人民的生活改善，使之安居樂業，“倉廩實而後知禮義，衣食足而後知榮辱”，這就是所謂養民了。總之是教養廉矩，讓治者與被治者，或士大夫階級與農工商階級，都能發展他們的技能，配合一致，殊途同歸，然後風氣可轉，社會自然就欣欣向榮了。
曾國藩出生在一普通的農戶人家，他與湘鄉農村有著廣泛的聯係，他了解農民的疾苦、願望和要求，他的部隊實際上是一支農民部隊，他正是依靠這支部隊打敗了撚軍和太平天國軍隊的。
曾國藩說，養民是為了民，做官也是為了民，當官不為民著想，那是我深惡痛絕的。為民不是一句空話，不是一曲愛民歌，不是做幾件事情擺擺樣子，而是要真心實意地愛，愛字中間有一個“心”字，所以愛民就要出於“真心”。
在給曾國荃的一封信中，曾國藩這樣寫道：
大抵與士兵和百姓交往，隻要真心實意地愛護他們，就可以得到他們的諒解。我之所以深得民心與軍心，就是因為這個緣故。在與官員和紳士交往時，即使心裏看不起某些人，也不能在語言上、表情上、禮節上表現出來，我之所以在官場上不得誌，就是因為常常表現出來的緣故啊！
盡管曾國藩與官員和紳士之間常常發生矛盾，這給他的仕途增加了不少麻煩，但由於他能真心實意愛護軍民，所以還是能心有所想，事有所成。曾國藩的這種愛民思想應該說得益於他所受的儒家文化的影響。
在《尚書》、《禮記》、《論語》和《國語》中，民本思想已經很重，到了孟子，民本思想獲得了高度的發展。孟子說：“民為貴，社稷次之，君為輕。”這種以民為貴的思想可以說是曆朝曆代明君實行仁政的基礎。孟子還說：“樂民之樂者，民亦樂其樂；憂民之憂者，民亦憂其憂。”想民之所想，急民之所急，這是獲得民心的法寶。得天下就要得民心，得民心就要“所欲與之聚之，所惡勿施爾也”。
曾國藩稱孟子為“真豪傑”，表示願意終身以孟子為師，他的愛民思想、民本思想大概可以從孟子那裏找到根據。
有什麼樣的君主，便有什麼樣的臣民。君主廉矩，臣民便廉矩；君主仁義，臣民便仁義；君主好巧，臣民便好巧；君主愚昧，臣民便愚昧。齊桓公喜歡穿紫色的衣服，齊國上上下下都喜歡紫色衣服，結果導致齊國紫色衣料價格猛漲。世風如此。
曾國藩說：“風正與否，則絲毫皆推本於一己之身與心，一舉一動，一語一默，人皆化之，以成風氣。故為人上者，專注修養，以下之效之者速而且廣也。”
所以，曾國藩特別注意對屬下官吏的使用，要求官吏廉矩，一是習慣勞苦以盡職盡責，一是崇尚儉約以培養廉潔，一是勤學好問以拓展才能，一是戒驕以糾正風俗。所以委任一個官員，一要看他是否“做”得，二要看他是否“省”得，三要看他是否“學”得，四要看他是否“禁”得。他著重考察的是人的品質、習慣、才學和意誌。
曾國藩在使用紳士時有一個秘訣，就是給他們一點名利，但不說破，用這種辦法可以培養他們的廉恥之心。
“官階日益進，心憂日益深。”清代學者紀昀的這句話曾國藩大概體會得尤其獨特，在別人或許會覺得虛偽，在曾國藩卻字字是淚！
曾國藩說他“無處不憂心，無日不懼禍”，“所過之處，千裏蕭條，民不聊生”，他一定體會到了曹操寫作“白骨露於野，千裏無雞鳴”時的心境，不然，他能說出這樣的話嗎？處在亂世，身居高位，掌握著廣大軍民的生殺大權，幾乎是人生的一大不幸。
一般人羨慕總督、巡撫的榮耀，不外乎宮室、衣服、富裕和尊貴，而曾國藩所住隻有軍營的茅屋三間，瓦屋一間，所穿的衣服比起當年在京城時還要節儉得多。不是他不能住得好一點，穿得好一點，而實在是他不敢、不願、不忍啊！他說：
從冬至夏，常有十幾萬敵軍環繞在祁門的前後左右，幾乎沒有一天不打仗，幾乎沒有一路不梗阻。白天沒有美食，夜晚常做惡夢。軍餉拖欠達五六個月之久，士兵的生活異常艱苦，我實在不忍心一個人過富裕的日子。所以近年來我不敢往家裏多寄銀錢，也不敢給宗族鄉黨一些潤澤，這並不是虛偽矯倩，一則是因為我親眼看到士兵窮窘異常，二則是想到從高祖父、曾祖父以來，我家世代寒素，我雖然享受了祖上的蔭德，但我不想享受過多，以便為自己存惜福之心，為家族留不盡之澤。