可見曾國藩交朋結友是相當嚴謹和苛刻的，絕不是什麼人都結交，更不會因財交、因利交、因勢交，而隻與義氣相投、正義在身，人品、道德、學問俱優秀之人交。這樣的人，一見就會成為莫逆。比如他與劉蓉、郭嵩燾、羅澤南的交往就是一個很好的例子。
劉蓉（1816-1873），字孟容，號霞仙，生於湘鄉縣樂善裏儒階莊（今婁底市婁星區茶園鎮儒家莊），極具才華。劉蓉生長在比較富裕的家庭，不愁衣食，聰明好學且發奮用功。為人淡泊名利，於科舉、官場事沒有什麼興趣。不求虛名，而講究真才實學。其學識早年傳遍湘鄉內外，文人士子均刮目相看。
曾國藩與劉蓉的結交不是偶然的，除了情性相投，誌趣相同外，也因為劉蓉做學問的路子與曾國藩非常相似：也是攻程朱理學，同時又講經世致用，都富有才華。他們相識很早。據黎庶昌所作《曾國藩年譜》稱：“道光十四年（1834），公二十四歲，始見劉公蓉於朱氏學舍，與語大悅，因為留信宿乃別。”曾國藩對於劉蓉的才華極為讚賞，曾戲稱劉蓉為“臥龍”，因而劉蓉也有“小亮”之稱——就是當世小諸葛亮的意思。並由此而引出湖南的“三亮”之說。所謂“三亮”，就是“今亮”——湖南湘陰縣的左宗棠，“老亮”——湘鄉雙峰縣的羅澤南，以及“小亮”劉蓉也。三人都是有“臥龍”之才的人物。
曾國藩和劉蓉在一起時，經常徹夜長談，即便是各奔東西時，也不斷通信。通信的內容除切磋學問外，凡古今政治因革損害得失利病與風俗及人習之盛衰，都列入討論範疇。二人的交情相當深厚，而且從未淡化過。劉蓉對考科舉、入仕途沒有興趣，當曾國藩在京城入翰林之後，劉蓉還是布衣，但他們的友誼並沒有因此而疏遠。
道光十七年（1837）二月，二人再見於長沙，此時郭嵩燾來會。三人相見，深感意氣相投、誌趣相同，遂結拜為兄弟。這時候曾國藩最大，二十七歲，劉蓉二十二歲，郭嵩燾隻有二十歲。
1838年，曾國藩考中進士入翰林院之後，非常思念遠在家鄉尚未中秀才的劉蓉，他在日記中寫道：“昨日接霞仙書，懇懇千餘言，識見博大而平實，基文氣深穩，多養到之言。一別四年，其所造遽已臻此，對之慚愧無地，再不努力，他日何麵目見故人耶！”此時的劉蓉，才學之高，在曾國藩眼中，就非同一般，把他比作“臥龍”，還寫了一首《懷劉蓉》的詩：
我思竟何屬？四海一劉蓉。
具眼規皇古，低頭拜老農。
乾坤皆在壁，霜雪必蟠胸。
他日餘能訪，千山捉臥龍。
劉蓉雖未入仕，但在曾國藩的眼中，他比那些考取了功名、入仕為官的人高明得多，他在給弟弟的信中說：“如霞仙今日之身份，則比等閑之秀才高矣。若學問愈進，身份愈高，則等閑之舉人、進士又不足論矣。”並不以功名有無、高低來看待劉蓉，而是以才學的高深來對劉蓉予以評價和肯定。
後來曾國藩回鄉，創辦湘軍，多次邀請劉蓉來協助自己，但劉蓉無意功名，隻願做閑雲野鶴。但每逢曾國藩有要事相商或是重大決策時，劉蓉都會說出自己的意見。鹹豐四年，正是湘軍處於低穀時期，也是急需用人之際，曾國藩懷著求人急切之心寫信給至交好友劉蓉與郭嵩燾，請他們立即出山相助。劉蓉是個實心實意、顧全大局的人，他和郭嵩燾相繼來到曾國藩身邊，跟隨曾國藩左右，為曾國藩排憂解難，共同籌劃有關練兵、集餉等大政方針。
在湖南時，除了劉蓉、郭嵩燾等幾個有限的朋友外，曾國藩的朋友少之又少。朝夕過往不過是些鄙儒，其中甚至還有“損友”。他在寫給弟弟的家書中說：“兄常與九弟道及，謂衡陽不可以讀書，漣濱不可以讀書，為損友大多故也。”全是損友，不僅學不好，於自己進取無益，甚至還會學壞，反倒會損害自己的德行和學問，這樣的地方如何能讀書呢？
但是到了京城後，情況就大不一樣了。京城群賢畢集，精英滿眼，每個人都有各自的優勢、擅長和技能，誌向、眼界和胸懷都非湖南鄉下的“鄙儒”或“損友”可比，這讓曾國藩心境大好，更廣結八方，見賢思齊，學習不輟。
在京城時，由郭嵩燾引見，曾國藩又認識了江忠源。江忠源因有血性、有膽識，為人任俠仗義，被曾國藩視為必誠必信之人，京中絕無僅有的人才。後來，江忠源成為湘軍的重要將領，為湘軍早期的發展、威名和勝利，都立下了汗馬功勞。