當然，最讓李鴻章驕傲的，是他親手創辦並指揮的中國第一支近代海軍——北洋艦隊，這才是他的掌上明珠。前文已講過，這支艦隊的戰艦、軍港及炮台都頗具規模，但它卻隻是這個衰落帝國的炫目裝飾，沒有人想到可以利用它來爭奪至關重要的製海權。連較有遠見的李鴻章，也隻是把它作為一般的近海防禦武力而已。
這幾乎在戰略上就注定了北洋艦隊的悲劇性結局。
大清正式對日宣戰之後，嚴令北洋艦隊出擊，尋找戰機，殲滅艦隊於黃海之上。
1894年11月23日，旅順失陷之後，丁汝昌率北洋艦隊回到威海衛，彈劾丁汝昌的呼聲越來越高。
27日，禦史安維峻等60餘名言官聯銜上奏請誅丁汝昌：“頃聞旅順失守，固由陸軍不能力戰，亦緣海軍不肯救援，致敵水陸夾攻，得逞其誌耳。丁汝昌一切罪狀，屢經言官彈劾，早在聖明洞鑒之中。……自謂內有奧援，縱白簡盈廷，絕不能損其毫發。而軍中輿論，則謂其外通強敵，萬一事機危急，不難借海外為逋逃藪。……今旅順既失，海麵皆為敵有，彼若直撲威海，丁汝昌非逃即降，我之鐵甲等船，竊恐盡為倭賊所得。事機至此，不堪設想！……請將丁汝昌鎖拿解京，交刑部治罪……以防該提督線索潛通，預謀逃叛。”必欲置丁汝昌於死地而後快。
新任山東巡撫李秉衡也上奏章指控丁汝昌：“海軍主將率兵艦望風先逃，以回顧威海為名，去之唯恐不速……牙山之敗，以致遠船衝鋒獨進，不為救援，督率無方……驕玩成性，不知儆懼，聞皮子窩、大連灣一帶為敵鋒所指，將兵艦帶至威海，以為藏身之固。倭船四處遊弋，不聞以一輪相追逐。嗣李鴻章令其仍赴旅順，始勉強以往。至事急，又複率兵艦逃回威海，倉皇夜遁，致將鎮遠船觸礁沈壞。……伏乞皇上立賜睿斷，降旨將丁汝昌……照貽誤軍機律，明正典刑。”
丁汝昌受到這些指責，朝廷連下諭旨，要將丁汝昌拿交刑部問罪。
這時丁汝昌亦因屢遭委屈，受氣已多，也有不顧生死出海與日本海軍拚死一戰之意。
但李鴻章依然是保持清醒，知道冒險之戰並無勝算，所以還是忍耐，“挺”著，他仍是嚴令丁汝昌，不許輕意出海覓戰。
豐島海戰失利後，李鴻章對自己的北洋艦隊的弱勢看得更清楚。當內反對李鴻章的清流派借此攻擊其下屬丁汝昌，幾乎要取丁汝昌性命之時，李鴻章力保丁汝昌。
李鴻章終於按捺不住內心的憂憤，給光緒皇帝一封密奏，力陳海軍不應輕易浪戰的道理。
據說，光緒皇帝讀到這篇情辭懇切的密奏，為之動容，似乎終於也有所醒悟。
8月29日（陰曆七月二十九日），平壤戰役的17天前，黃海海戰的19天前，李鴻章上奏：
查北洋海軍可用者，隻鎮遠、定遠鐵甲船二艘，然質重行緩，吃水過深，不能入海汐內港；次則濟遠、經遠、來遠三船，有水線穹甲，而行駛不速；致遠、靖遠二船，前定造時號稱一點鍾行18海裏，近因行用日久，僅十五六裏。此外各船，愈舊愈緩，海上交戰，能否趨避敏活，應以船行之遲速為準。速率快者，陣則易於追逐；敗亦便於引避。若遲速懸殊，則利鈍立判，西洋各大國講求船政，以鐵甲為主，必以極快船隻為輔，胥是道也。詳考各國刊行海軍冊籍。內載日本新舊快船推可用者共21艘，中有九艘自光緒十五年（1889）後，分年購造，最快者每點鍾行23海裏，次亦20海裏上下。我船訂造在先，當時西人船機學尚未精造至此，每點鍾行15～18海裏，已為極速。今則至20餘海裏矣。近年部議停購船械。自光緒十四年（1888）後，我軍未增一船。丁汝昌及各將領屢求添購新式快船，臣仰體時艱款絀，未敢奏谘瀆請。臣當躬任其咎。倭人心計譎深，乘我力難添購之際，近年增置，臣前於預籌戰備折內奏稱，海上交鋒，恐非勝算，即因快船不敵而言。倘與馳逐大洋，勝負實未可知。萬一挫失，即沒法添購亦不濟急。唯不必定與拚擊，今日海軍力量，以攻人則不足；以之自守尚有餘。用兵之道，貴於知己知彼，舍短取長，此臣所為兢兢焉，以保船製敵為要，不敢輕於一肄，以求諒於局外者也。似不應以不量力而輕進，轉相苛責。丁汝昌從前剿辦粵撚，曾經大敵，迭著戰功。留直後即令統帶水師，屢至西洋，藉資曆練。及創辦海軍，簡授提督，情形熟悉。目前海軍將才，尚無出其右者，若另調人於海軍機輪理法全未嫻習，情形又生，更慮僨事貽誤，臣所不敢出也。