處理完善後工作，林則徐又開始著手加強邊防的警備力量，裁汰冗員和老弱殘兵，年年更換防衛的將領，以免形成割據一方的勢力。年邁的林則徐，雷厲風行的辦事風格絲毫不亞於當年，經過一番整頓，地方上終於又恢複了平靜。
在林則徐擔任雲貴總督期間，他的妻子趕到雲南和他相聚，於道光二十八年（1848年）病死在雲南。林則徐心痛至極，仿佛受了很大的打擊，從此健康狀況一天不如一天。這麼多年，林則徐一直沒有像其他官員那樣三妻四妾，夫人去世之後就一個人生活，後來有一天，老仆帶來一位姓繆的姑娘，這位姑娘一心想要委身林則徐做妾。林則徐堅定地拒絕了，最後這個姑娘聲淚俱下地說：“先父誤犯軍法，大人明察恕其不死，一直無以為報，深感遺憾。他老人家臨終時遺命小女伺候大人生活，如果無法完成父親的心願，那我隻有一死以謝亡父！”林則徐無奈隻得答應，從此這位姑娘照顧林則徐的起居生活，倒也是一位體貼的紅粉知己。
歲月無情，讓林則徐走遍大半個中國的道光皇帝也老了，他明白林則徐的忠心和廉潔，始終把各種重任交到他的頭上，甚至有升林則徐為一品大員的打算，無奈林則徐已經請辭十餘次了，再留他在官場就是強人所難了，於是道光這一次批準了他的請求，準他告老還鄉。
林則徐從昆明起程時，雲南百姓悉數前來送行，場麵很是壯觀和感人。隻有真正為民著想的父母官，才會受到百姓真心的擁戴。數萬人焚香載酒，眼含熱淚地擁在林則徐的馬前依依不舍。雲貴交界處的岩壁上到處都刻著林則徐的種種德政，百姓的愛戴讓林則徐感激涕零，很是欣慰。
林則徐在離開這個沉浮了多年的官場前，曾對他的僚屬殷勤寄語，他傳授了自己的為官心得，也表達了自己對未來的擔憂：
“治理邊陲，公勤仁明威五字缺一不可。守法能公，勤則可以消弭小禍。唯有大吏，才可以做到‘仁、明、威’三者兼具，使眾心翕服。以我治滇不到三年所花費的心力，充其量可以維持十年的平靖。十年以後，就難以預料了！”
林則徐和道光的關係十分微妙，道光對林則徐的倚重也夾雜著很複雜的心理，所以他不願麵對林則徐，林則徐也始終未能與皇帝再見一麵。林則徐內心的悲哀都流露在了他的詩中：
除書頻添姓名標，自入關來未入朝。
謬向蠻方開節鎮，又聞洋舶逞天驕。
瀾滄昨夜梟聲革，珠海何年蜃氣消。
病榻呻吟猶未了，殘燈孤枕警中宵。
為國求賢
林則徐一直都認為，自己能夠有機會為國盡忠，都虧了張師誠的提攜。能為國家物色人才，一直都是林則徐的願望。所以在辭官之際，林則徐更加注重人才的培養，除了提拔張亮基之外，胡林翼也是很受他器重的一個人。
胡林翼是個很自負的人，曾經說過：“才者無求於天下，天下當自求之。”而此人也確實是有些才華，很懂兵略，還成為了陶澍的女婿，在父親死後一直過著隱居的生活。林則徐從陶澍那裏得知此人很有才華，自打返回中原後就開始極力推薦他。林則徐的賞識感動了胡林翼，最終決定不再隱居，走上仕途。後來胡林翼做到了湖北巡撫，同樣不遺餘力地提拔有用之才。而曆史上著名的能臣左宗棠就是通過他最終被林則徐賞識的。
陶澍和左宗棠是兒女親家，因此左宗棠和胡林翼也有著一層姻親關係。開始，左宗棠的仕途很不順暢，在湖南巡撫張亮基的府中做事，鬱鬱不得誌，胡林翼就向林則徐推薦左宗棠，說他才堪大用。
左宗棠也是一個頗為自負的人，但對林則徐卻格外敬重。道光二十九年（1849年）九月，林則徐在三子的陪同下，扶著夫人的靈柩，由雲南前往長沙。林則徐雖然是福建人，但是湖南朋友很多，眾多文武官員都等著和林則徐見麵，但是林則徐一看到左宗棠的拜帖，就立刻謝絕了其他人的邀請，單獨請左宗棠入內吃飯。當時左宗棠不過是一個37歲的舉人，林則徐的禮遇讓他大感意外，也許是緊張的緣故，左宗棠竟然失足掉入水中，旁人將他從水中拉起，換上了一身幹淨的衣服。
這是一次曆史性的交談。湘江水流湍急，林則徐命人把船駛向幽僻的嶽麓山下。船上主客言談甚歡，林則徐的三個兒子陪侍在左右，這一場宴會一直持續到天色拂曉，左宗棠依依不舍地上岸，林則徐等人繼續航行。