1882年3月，左宗棠南下長沙，輾轉抵達南京，人駐兩江總督府。當時，中法關係相當緊張。法國為了把印度支那變為他的殖民地，人侵越南，勢力達到北橋，使中國西南地區遭到嚴重威脅。清政府對當時戰局舉棋不定，朝廷重臣李鴻章等認為“未可與歐洲輕言戰事”而左宗棠則不以為然，認為對法國人要以牙還牙。
在改善江防設施的同時，左宗棠十分重視整飭炮台官兵紀律，以嚴明的賞罰來提高他們的抗敵熱情。他鄭重宣布：如果外國軍艦膽敢闖人長江，不服查禁，炮台官兵可以開炮轟擊。命中者照軍功例從優給獎，其奪獲敵人軍艦者，副將以下各官均加三級，請保提督、總兵等官，勇丁則按人賞銀50兩，仍然錄功核保。倘若軍官督戰不嚴，臨陣退縮而貽誤戰機，提督總兵等官要一請旨正法，副將以下各官立即斬首，決不寬貸。
他嚴格要求部下，更嚴於律己。他當眾宣布：“老命不足惜，四十餘年所積之惡氣，正可借此一吐為快。”他上奏清廷，表示自己對長江防務責無旁貸，遇有敵情，將親臨前敵督戰。如果不能打敗敵艦，讓其衝破白茅沙防線，則防所即是死所，一定捐軀以殉，以死來向江東父老謝罪。左宗棠的抗敵之誌，確實是愈老愈堅。在他的這種精神的感召下，所部將官亦鬥誌高昂，表示：即使老將軍不臨前敵，我輩亦當拚命報國。
1884年初，左宗棠因目疾嚴重奏請開缺調養。4月，他交卸兩江督篆，由曾國基署理兩江總督。隨後，又接到清廷命其赴京陛見的諭旨，6月中旬到達北京，仍然人值軍機處。呂月23日，法國海軍襲擊馬尾軍港，擊沉福建水師艦艇多艘，擊毀福建船政局。26日，清廷被迫對法宣戰。左宗棠懷著焦急的心情去找醇親王奕嗷（光緒皇帝的生父），要求統兵出征，其誌甚堅。由於醇親王的疏通，清廷任命左宗棠為欽差大臣，督辦福建軍務。
9月中旬，左宗棠以73歲的高齡扶病就道。10月中旬抵南京，籌辦糧的，抽調軍隊。12月24日，福州城內旗幟飄揚，街道兩旁到處是老百姓和他們擺設的香案，左宗棠乘駿馬，執長鞭，身穿黃統馬褂，在一群威武官兵的擁護下抵達這個抗法的前D肖。
左宗棠一到福州，馬未卸鞍，便召集官紳，聽取他們對福建防務形勢的介紹。隨後，他著力抓了三件事。
第一件事是整頓閩江防務，防止法軍內犯福州。他分撥兵勇駐守長門、金牌、連江、東岱等各閩江要隘，並以福州將軍穆圖善坐鎮長門。他下令撤去閩江口外水道標誌，於閩江口構築阻塞工事，樹立鐵柱，橫以鐵索。距福州叨裏的林浦、魁歧及閩安右路出海之梅花江等處，一律壘石填塞，僅容小舟來往。沿江遍設水雷，各要隘炮台或修複，或新建。1885年2月中旬，左宗棠偕閩浙』總督楊昌浚巡視閩江炮台，校閱各路兵勇。當他來到馬江，看到當年自己苦心經營的造船廠竟被法軍炸得一片瓦礫，造船廠所造的軍艦被炸沉江底時，心中感慨萬千。桑田滄海，人事之過，多麼可悲可歎啊。他的心在哭泣，在流淚。他命令將沉艦上的大炮打撈起來，改裝到閩江兩岸的炮台上，以救眼前之急。左宗棠覺得曆史在嘲弄自己。其實，曆史嘲弄的並非左宗棠一人，而是整個大清王朝。可是，當時的中國，有多少人能在內心深處與左宗棠產生共鳴呢？
正當左宗棠在福州積極籌備防守時，令人振奮和震驚的消息一個個傳來。3月下旬，馮子材、王德榜等部清軍在廣西鎮南關（今友誼關）大敗法軍，斃傷精銳近千人，並一直將法軍追逐到越南郎甲、船頭一帶。與此同時，劉永福率領黑旗軍在越南北橋臨怫擊敗法軍。法軍在戰場上的失敗波及到法國國內政局，發動中法戰爭的茹費裏內閣被迫下台。清政府在對法作戰中開始由被動轉為主動，戰局大有可為。然而，4月上旬，清廷卻向前線各軍下達了定期停戰撤兵令，要求清軍乘勝即收。左宗棠獲知此情，由喜轉驚，急忙上奏，力陳不能輕易撤兵言和，“要盟宜慎，防兵難撤”。他說：現在沿海各省防務已經改觀，完全可以再戰，忽然奉命言和，必生後患。
當時，全國軍民抗法情緒甚高，紛紛反對與法國議和。不少人認為左宗棠德高望重，希望他出來說服清廷，打消其和議的念頭。兩廣總督張之洞致電左宗棠說：“公有回天之力，請趕緊想辦法。”但慈接太後在海防問題上對李鴻章的信任超過了對左宗棠的信任。她還是尊重李鴻章的意見，決計以和議代戰守。6月上旬，《中法會訂越南條約》成立，清政府正式承認了法國對越南的占領。
8月，左宗棠再次上奏朝廷，專就台灣在中國海防中的地位進行了論述。他講台灣是東南門戶，台灣事關海防大局，並建議台灣設省。同年10月12日，清朝廷同意左宗棠的建議，在台灣設行省，並任命淮係大將劉鉻傳為台灣第一任巡撫。
1885年9月5日，一陣台風襲過福州，在台風的呼嘯聲中一代名將左宗棠與世長辭。左宗棠病逝之前是滿懷遺恨。左宗棠自從軍以後，長年東征西伐，為滿清王朝立下汗馬功勞。但是左宗棠絕對沒有想到他所維護的滿清王朝猶如搖搖欲墜的百年老屋，在他死後不久，便土崩瓦解。他為之傾注心血的洋務運動也是失敗而告終。他就是傾盡每一滴熱血也看不到中華民族的繁榮昌盛。曆史告訴我們，左宗棠隻是封建社會一個回光反照的悲劇性的人物。