扶桑號是由日本獨自設計的第一艘超弩級戰艦，它在開戰未久即被擊沉，這給聯合艦隊的心理打擊甚大。隻見扶桑號上的一千多名水兵在冰冷的海水裏撲騰掙紮呼喊著，聯合艦隊的其他艦隻卻根本無暇營救，而中國艦隊也顧不上去撈俘虜，戰後打掃戰場時，倒有一大半水兵已在海水中凍僵，這些漂浮在海麵的屍體都保持著臨死時的表情和動作，仿佛時間凝固在一刻，讓人覺得分外詭異。
聯合艦隊心知與敵手實力對比懸殊，根本無心戀戰，隻是後麵被薩鎮冰艦隊緊緊咬著，前方又被劉步蟾艦隊堵著，一時根本無法突出重圍。
戰局發展呈一邊倒的形勢，聯合艦隊的旗艦“橋立”，以及“千代田”、“赤城”、“比睿”等艦相繼受到重創，橋立艦中彈後艦體先是有很多地方在冒煙，幾秒鍾後發生大爆炸，炮塔都被炸飛上了天。
對聯合艦隊而言，戰局持續惡化，艦隊隊列被穿插分割打亂，指揮艦被密集的炮火不斷轟擊，指揮逐漸陷於癱瘓。
葉祖珪的靖遠艦率領一支縱隊盯著日艦吉野號為首的遊擊隊列狠打。葉在戰前就在其部下麵前立誓不擊沉吉野誓不為人，參加過大東溝海戰的葉祖珪曾親眼目睹身受重創不可能返回旅順的“致遠”號在鄧世昌的指揮下衝擊吉野號，未能成功並最終戰沉，當時的悲壯場麵讓葉永生難忘。
“吉野”艦是由英國海軍造船處設計，是當時世界上最先進的穹甲巡洋艦，使用新型的蒸汽機，航速高達23節，並裝備了阿姆斯特朗兵工廠最新設計的速射炮，一直對這種新型軍艦充滿興趣的日本政府由明治天皇帶頭，舉國上下募集金錢將此艦購入，成為了日本聯合艦隊的中堅主力。
吉野艦在密集的炮火下接連被幾發炮彈擊中，受創不小。但其不甘示弱，瘋狂進行還擊。一發火炮命中靖遠艦的指揮台，指揮台內除艦長葉祖珪和一個傳令兵外非死即傷，8寸炮彈擊中副炮指揮儀，癱瘓了附近一門副炮。隻見撿了一條命的葉祖珪雙目赤紅，一麵大吼著指揮士兵搶修軍艦，一麵命令繼續盯住吉野狠打，狀似癲狂。
就在這時，福龍、左一、右二、右三等四艘魚雷艇在周圍軍艦的掩護下迅速加入戰團，在進入有效射程後連續不斷地向吉野號發射魚雷。在魚雷攻擊之下吉野左支右拙，偏在此時鎮遠艦亦盯上了吉野，接連向吉野發動了三次齊射，在第三次齊射時，數枚開花彈在吉野艦上開了花。這些開花彈威力十足，炸得吉野號是七縈八素。（大東溝海戰前就有3071枚開花彈撥給北洋艦隊，海戰後又撥了361枚，因此此次海戰中國軍艦將實心穿甲彈和裝藥不合格的穿甲爆破彈換下，全部換上了最具威力的開花彈。至於為什麼這批開花彈沒有用於大東溝海戰，則是因為它們當時根本不在艦上，而是一直被存放在旅順、威海基地的彈藥庫裏。當時北洋水師提督丁汝昌執行李鴻章“保船製敵”的方針，消極避戰，出海護航時心存僥幸，竟然連彈藥都沒有帶足，致使北洋艦隊在彈藥不足的情況下與日本艦隊進行了一場長達5個小時的海上會戰，極大地影響了戰鬥力的發揮，也加重了損失的程度。）
被鎮遠的開花彈擊中後，吉野禍不單行，又有兩枚魚雷正中，而且不知是巧合還是精心測算有意為之，兩枚魚雷都擊中吉野同一部位，加重了損害的嚴重性，吉野號尾部艦底被炸開一個大洞，吉野於是迅速沉沒。
作為艦隊主力的吉野沉沒之後，日本聯合艦隊更是慌了神，陷入了一片混亂之中，“橋立”、“浪速”、“赤城”、“比睿”、“金剛”等五艦先後被擊沉，浪速艦被擊沉之時，日本海軍軍令部長、大本營重要成員之一的樺山紀資正在該艦上隨艦觀戰，這個發動侵華戰爭的重要人物最終被凍死在冰冷刺骨的海水裏。
日本聯合艦隊潰敗得如此迅速，這讓在鎮遠艦上觀戰的光緒也大跌眼鏡，他心裏道：“原來JB聯合艦隊是隻紙老虎，勞資又被那些狗日的曆史劇給騙了。”當然，聯合艦隊其實並不像光緒現在想的那般不濟，隻是這次南浦海戰，聯合艦隊實在吃虧太多，一是陸軍戰事不利之下，聯合艦隊倉促出戰，中了圈套；二是中國海軍出動了所有主力軍艦，雙方戰力懸殊太大；三是聯合艦隊的軍艦跟中國海軍的鎮遠、定遠兩艦比起來實在不是一個力量級別的，在沒有魚雷艇的情況下，拿這兩艘鐵甲艦根本沒有辦法。
伊東佑亨見勢不妙，命令三景艦不管不顧地拚命逃竄，其他日艦也分別突圍。在衝出中國軍艦包圍圈之時，又有三艘日艦在火炮與魚雷的猛烈轟擊下沉沒。逃出重圍的七艘日艦裏，後來又有兩艘由於受創嚴重，在仁川近海沉沒。此次南浦海戰，日艦共出動主動艦及輔助艦十七艘，最後幸存的軍艦隻有五艘，且都不同程度受創。聯合艦隊司令官伊東佑亨在從仁川返回日本本土的航程中剖腹自殺。