第四，曾國藩強調治軍須張弛有道，既做到嚴明、公明，又要仁愛、勤勞。“古人用兵，先明功罪賞罰”，治軍必須嚴明。曾國藩針對綠營腐朽之情狀，認為“捄浮華者莫如質，積習之後，振之以猛！醫者之治瘠瘡，甚者必剜其腐肉，而生其新肉。今日之劣弁羸兵，蓋亦當為簡汰，以剜其腐者；痛加訓練，以生其新者。不循此二道，則武備之弛，殆不知所底止”。曾國藩認為近世以來，治軍者往往“專尚慈惠，或以煦煦為仁者當之，失循吏之義矣”。“為將之道，亦以法立令行整齊嚴肅為先，不貴煦嫗也”。立法不難，貴在執行。曾國藩深知“馭軍馭吏，皆莫先於嚴”的道理，“近年馭將，失之寬厚，又與諸將相距遙遠，危險之際，弊端百出。然後知古人所雲做事威克厥愛，雖少必濟；反是，乃敗道耳”。
公明，指的是公正光明。曾國藩認為曆史上舉凡大亂之世，往往先變亂是非，而後政治顛倒，最後災害來臨。他把將帥比作店鋪夥計，“大君以生殺予奪之權授之將帥，猶東家之銀錢貨物，授之店中眾夥。若保舉太濫，視大君之名器不甚愛惜，猶之賤售浪費東家之貨財不甚愛惜也”。介之推曾說：“竊人之財猶謂之盜，況貪天下功以為己功乎？”曾氏將其改為：“竊人之財猶謂之盜，況假大君之名器以市一己之私乎？”他指出“明”有兩層含義，一是高明，“同一境而登山者獨見其遠，乘城者獨覺其曠，此高明之說也”；二是精明，“同一物而臆度者不如權衡之審，目巧者不如尺度之精，此精明之說也”。理想境界乃是高明者“降心抑誌以遽趨於平實”，然要真正做到頗為艱難。“若能事事求精，輕重長短一絲不苟，則漸實矣，能實則漸平矣”。曾國藩提倡治軍要有“公心”。他闡述道：“凡利之所在，當與人共分之；名之所在，當與人共用之。居高位以知人曉事二者為職，知人誠不易學，曉事則可以閱曆黽勉得之。曉事則無論同己異己，均可徐徐開悟。君子亦謬，鄉願固謬，狂狷亦謬，重以不知人，則終古相背而馳，決非和協之理，故恒言皆以分別君子小人為要。”他進而認為，“天下無一成不變之君子，亦無一成不變之小人。今日能知人、能曉事，則為君子；明日不知人、不曉事，則為小人。寅刻公正光明則為君子；卯刻偏私晻曖則為小人。營哨官之權過輕，則不得各行其誌。危險之際愛而從之者或有一二，畏而從之者則無其事也。此中消息應默察之，而默挽之。總攬則不無偏蔽，分寄則多所維係”。
曾國藩乃理學名臣，自然提出以“仁”治軍思想，但“仁”要以“禮”為約束。“帶兵之道，用恩莫如用仁，用威莫如用禮。仁者，所謂欲立立人欲達達人是也。待弁兵如待弟子之心，常望其發達，望其成立，則人知恩矣。禮者，所謂無眾寡、無大小、無敢漫，泰而不驕也。正其衣冠，尊其瞻視，儼然人望而畏之，威而不猛也。持之以敬，臨之以莊，無形無聲之際，常有凜然難犯之象，則人知威矣。守斯二者，雖蠻陌之邦行矣，何兵之不可治哉？吾輩帶兵如父兄之帶子弟一般，無銀錢無保舉，尚是小事，切不可使之因擾民而壞品行，因嫖賭洋煙而壞身體。個個學好，人人成材，則兵勇感恩，兵勇之父母亦感恩矣。愛民為治兵第一要義，須日日三令五申，視為性命根本之事”。
曾國藩一生勤奮，治軍亦然。早在其做京官時便養成“多勤少食”的習慣，“每日應辦之事，積擱過多，當於清早單開本日應了之件，日內了之。如農家早起，分派本日之事，無本日不了者庶幾積壓較少”。他強調，“天下事未有不由艱苦中得來。百種弊端皆由懶生。懶則弛緩，弛緩則治人不嚴，而趣功不敏，一處弛則百處懶矣”。治軍之道，以“勤”字為先。“身勤則強，逸則病；家勤則興，懶則衰；國勤則治，怠則亂；軍勤則勝，惰則敗”；“未有平日不早起，而臨敵忽能早起者；未有平日不習勞，而臨敵忽能習勞者；未有平日不能忍饑耐寒，而臨敵忽能忍饑耐寒者”；“必須官弁晝夜從事，乃可漸幾於熟，如雞伏卵，如爐煉丹，未可須臾稍離”。
第五，曾國藩指出軍隊要內部團結，具有凝聚力。他總結道：“湘軍之所以無敵者，全賴彼此相顧，彼此相救。雖平日積怨深仇，臨陣仍彼此照顧。雖上午口角參商，下午仍彼此救援。”內訌分裂，危害尤甚。“禍機之發，莫烈於猜忌，此古今之通病。敗國、亡家、喪身，皆猜忌之所致。凡兩軍相處，統將有一分齷齪，則營哨必有三分，兵夫必有六七分。故欲求和衷共濟，自統將先辦一副平恕之心始。同打仗，不可譏人之退縮；同行路，不可疑人之騷擾，處處嚴於治己而薄於責人，則唇舌自省矣。敬以持躬，恕以待人，敬則小心翼翼，事無巨細，皆不敢忽；恕則凡事留餘地以處人，功不獨居，過不推諉，常常記此二字”。