李鴻章這時挺身而出，主張以海防作為經營重點：伊犁已被俄國所占，短時期內收複絕非易事，且以目前軍力要收複西北實在力不從心，不如令西征諸軍嚴守邊境，同時在前線屯兵耕種，積蓄力量。節省軍餉應全部用於東南海防。此論遭到湖南巡撫王文韶堅決反對。他認為，天下事分兩種，一種是重要之事，即“本”，另一種是次要之事，即“末”。重要之事又分兩種：一是重中之重，刻不容緩；另一種是雖重要卻非目前必須。關於海、塞防問題，西北塞防是本中之本。隻要俄國人不能逞誌於西北，西方各國必不致構釁於東南。
這時，同治帝為八大胡同的風流時光獻出了年輕的生命，帶著對清王朝的無限擔心永遠離開了人世。其生母慈禧顧不得為自己青年喪夫、中年喪子的苦命悲哀，用最快速度選定一個“合適”的皇位繼承人——其外甥、醇親王之子載湉。光緒帝甫一即位，中斷的海、塞防之爭又起。山西巡撫鮑源深上奏，陳明目前國家財力緊張，應停止西征、固守關塞。陝甘總督左宗棠馬上反對，認為停兵節餉與投降無異，非但隴西不保，甚至危及北路的科布多和烏裏雅蘇台。大學士文祥也支持左宗棠。海、塞防之爭不斷升級，總理衙門不久出台處理決定：一、籌建海軍，加強海防，海防經費有限，難以籌措三洋海軍，先以北洋試點；二、陝甘總督左宗棠長期屯兵西北，政績卓著，是督辦新疆軍務的最佳人選；三、將海防籌餉作為第一要事，劃撥粵海關、潮州關等地四成洋稅和江、浙等省厘金，每年約四百萬兩白銀。中國第一支近代海軍誕生了！近代海、塞防之爭的焦點並不在於是否建立一支現代化的海軍，而在於當海陸危機同時出現時應丟卒保車還是二者兼顧。
海防主將李鴻章上折首先闡明海軍與陸軍的關係。他說，中國陸地邊境遠遠多於海疆，陸軍乃立國根基。陸軍改良必須配備洋槍、炮隊。域外強敵多從海上進犯，因此必須訓練一支強大的水師。李鴻章提出了自己的海防法寶，一為“守定不動之法”，二是“挪移泛應之法”。關於海軍經費，李鴻章認為隻要分配合理、統一籌劃，用有限的錢辦有效的事依然可行。李鴻章再次強調海防之重要性。他認為，新疆完全可用招撫之法和平解決，即使一時不能解決也不要緊，如同人失去了一隻手，雖痛苦卻無大礙；然海防問題如不能解決，國家則會麵臨顛覆的危險，如同人生了心髒病，不得一刻拖延。
清政府本擬委派李鴻章、沈葆楨二人會同辦理海防事務，李鴻章負責北洋，沈葆楨負責南洋，這樣既接近丁日昌的方案，又可限製李鴻章，不致海軍大權集中於一人手中。然沈葆楨不久離任南洋大臣，機遇與挑戰再次眷顧了李鴻章。為早日同國際接軌，李鴻章奏請將清朝的三角龍旗改為三尺寬、四尺長的長形國旗。不久，中國海軍軍艦上飄揚起莊重大方的長形國旗。
創立海軍衙門
1885年，中法戰爭中國不敗而敗。慈禧太後決心大治水師。李鴻章立即上折讚揚老佛爺的偉大：“我懷著恭敬心情拜讀聖諭，大治水師實是當務之急、救世法寶，朝廷的決斷真是英明至極！”當然，除了拍馬屁，李鴻章也沒忘向清政府灌輸自己的主張。他說，國外海軍都有統一的領導機構，歐美稱海軍部，日本叫海軍大臣。中國海防分南、北兩部，中央總司其成，然中間又有督撫大臣任意差調，洋人譏笑中國沒有辦理海軍的能力。最好添設一海軍部或海軍衙門，製定統一章程，進行統一指揮調度。如此，水師可治。清廷很快允準了李鴻章的建議。1885年10月，清朝正式設立海軍衙門，任命醇親王奕譞、慶郡王奕劻為督辦，李鴻章為會辦。按照慣例，總理衙門簡稱總署，海軍衙門自然亦簡稱海署，外國人都稱海軍衙門是六部之外的“第七部”，中國人仍稱其為“水師衙門”。
其實最先提出建立海軍衙門的既不是李鴻章，也不是清政府，而是中國總稅務司、英國人赫德。有趣的是，當赫德提出建立海軍衙門時，李鴻章恰恰是最激進的反對者。赫德聽說清廷籌備海防事宜的消息後，立即向總署提出籌備海防章程。內容包括：統一南北海防；設海防大臣或海防司一人，由赫德本人擔任；高薪聘請洋人充作教習。總署對赫德的建議非常感興趣。誰知將這一章程交與南、北洋大臣後，立即引起軒然大波。李鴻章和沈葆楨的意見這次出奇的一致，均表示反對。沈葆楨認為若清朝官員連起碼的人事權都沒有，怎麼能稱作大清的海軍！李鴻章的幕僚薛福成向其諫言：“赫德為人陰險貪婪，現身居高位，掌控關稅大權，已有尾大不掉之勢，如再讓他坐鎮海防，豈不是兵權、財權都集中其手？現在您和沈大人貴為南、北洋大臣，海防權利不過人各一半，赫德卻把兩項大權一統在手。如果這份章程獲準通過，赫德無疑可借海防之權牽製總署，誰都難以鉗製了。”李鴻章深以為然，馬上旗幟鮮明地反對赫德：一是赫德不能既掌財權，又掌兵權；二是赫德平素不懂兵法，不適合管理海軍事務；三是沈葆楨態度強硬，不願接受赫氏領導，如果堅持可能會引起內部爭端。