成歡失守後當天，聶士成率部向南退奔天安，與葉誌超部會合，準備退往公州。
聶士成要葉誌超率軍先行，自為斷後，一路招集殘卒而行。
7月30日，行至公州，見葉誌超由公州率軍北退，兩軍相遇。葉誌超對聶士成說：“公州不可守，不如繞道至平壤，會合大軍，再圖進取。”言畢，未待聶士成回答，便率所部疾馳而去。
途中，葉誌超電告李鴻章，清軍以寡敵眾，奮勇搏擊，取得了成歡大捷，斃敵2000餘人。
葉誌超與李鴻章同鄉，是安徽合肥人，早年投身於李鴻章創建的淮軍後，隨劉銘傳征討過撚軍，撚軍失敗後，得李鴻章賞識。此人為人善辯、倔強，被視為有才有膽的人物。
然而，這一次，葉誌超卻給李鴻章丟盡了臉。
在日軍到達牙山前，葉誌超與聶士成商議，以牙山絕地不可守，分別轉移至成歡和公州。聶士成率軍守成歡，葉誌超駐公州為後援。
1894年7月29日，日軍進攻成歡，激戰後聶士成以寡不敵眾，棄守成歡，退往公州。然而此時葉誌超已放棄公州，中途與聶士成相遇，合軍北退平壤。
李鴻章的作戰意圖是集結大軍於平壤，與漢城的日軍相對峙，還是那句話，李鴻章想挺著，以時間換空間。
李鴻章一開始是想讓葉誌超軍隊從海路轉移到平壤，而葉誌超認為，從海路向北轉移危險，不如原地不動，以靜待動。
從成歡敗退下來的聶士成收集餘眾，隨葉誌超北走，不戰而退的葉誌超軍隊還是與聶士成合軍北退平壤。
為了避免正麵與日軍主力遭遇，葉誌超選擇了迂回行軍。他們繞漢城之東，沿朝鮮東海岸經清州、鎮川、忠州、興塘，渡漢江經清風、原州、春川、金化、伊川、祥原，過大同江，先後於8月21日、28日抵達平壤，與入朝的左寶貴、馬玉昆、衛汝貴、豐升阿等部會合。這次轉移，足足花了一個月時間，共計行程1000餘裏。時值盛夏，行軍途中兵士饑疲疫病，死者甚多。
而葉誌超卻向本國報告說“大勝日軍”，鬧出國際笑話，讓李鴻章倍感難堪。
有些軍事史評論家認為這是葉誌超、聶士成畏敵怯戰的表現。不過，這一批評，也許未必合適。當時仁川、漢城一帶，日軍已集中萬人。牙山清軍新敗，輜重盡失，彈藥缺乏，士氣低落。為避免被日軍沿途截擊，保全實力，采取繞過漢城，避實就虛的路線是必要的。
日軍於29日攻占成歡後，大島義昌以為牙山原為清軍入朝後駐地，清軍從成歡敗退後，可能重返牙山。
於是，立即派右翼支隊為前導，向牙山追擊。當天午後4時，日軍先頭部隊到達牙山，看到的隻是被遺棄的軍火和糧食，清軍隻影不見。
日軍把被清軍遺棄的德製克虜伯大炮8門以及大米、彈藥等裝載上船，作為戰利品運往仁川。其餘10數門大炮，因已被清軍釘死火門或卸掉零件，不能使用，便被日軍盡行委棄。
日軍也不敢窮追，因為平壤那裏已經集結了清軍的大部隊。大島少將下令不再追擊、返回漢城時，已是8月5日。
明治天皇對進攻牙山清軍十分謹慎。7月23日，通過政變上台的大院君對閔氏一族有複仇之心，是應當利用的。不料，大院君在日軍刀槍逼迫之下，也沒有輕易地指示朝鮮政府發出要求牙山清軍撤出陣地的公文，為日本軍進攻住牙山的清軍製造合法的借口。相反，他躲開日軍的監視，偷偷向平壤的清軍傳遞漢城現況的情報。