但他事後向大本營彙報進攻海城的理由，則是為了保證日軍側背安全。
他說：現在析木城、海城清軍的兵力逐漸集結增加。我軍若向大連灣運動，勢必側敵前進。為保證日軍側背安全，必須先發製人，擊退清軍，占領海城。
由於當時清軍數十萬主力軍隊雲集於海城附近之牛莊、田莊台、蓋平、鞍山、遼陽一帶，作出了機動作戰的勢態。大本營認為，山縣有朋此時進攻海城，必然會和清軍主力進行激烈的攻防戰，無疑是一場一賭輸贏的軍事冒險，便下令第一、二軍各就原地待命，不同意進攻海城。
但山縣有朋一意孤行，不聽大本營指示，12月4日，再將報告進攻海城之理由。並且瞞著日軍大本營，擅自下達了進攻令。
山縣大將的海城戰役，即使把大本營的命令擴大解釋，也超越了限度。
從常識而論，這是違反統帥部軍令的行為。把一個戰果赫赫的司令官以違犯軍令為由撤職，實在不忍，但如果不管不問，任其擅自行動，他會更加驕橫跋扈，獨斷專行，無法控製。
怎麼辦呢？必須免職，不過，為山縣大將的名譽著想，不能直接提出違犯軍令罪。“因病”——更換出征中的軍隊最高首腦，除此以外，再沒有別的理由。伊藤總理奏請天皇。
“朕久不見卿，今又聞卿罹病，不勝軫念。朕尤欲聽卿親述敵軍全麵狀況，卿宜從速還朝奏之。欽此。”
宣布這一詔書的是侍從武官中村覺中佐。明明沒病，卻被天皇說成有病，山縣明白自己被罷官了。本應當剖腹自殺，但詔書又命令還朝上奏，至於違犯軍令事卻隻字未提。
12月16日，專門護送山縣大將回國的軍艦“西京丸”駛近抵宇品港。
停泊在港內的所有船隻都張燈結彩，擺出了盛大的歡迎陣勢。伊藤親自從廣島來宇品迎接。為召還山縣曾積極活動的川上操六中將也來了。在軍樂隊的吹吹打打中，山縣大將被當做凱旋將軍，踏上了祖國的土地。
山縣手觸帽簷，麵帶微笑，以戰爭英雄的姿態向迎接的人們答禮。但心裏卻波濤翻滾，充滿了酸溜溜的失敗感。
12月18日，山縣在廣島大本營謁見天皇。當時報紙登載了天皇賜予山縣大將的詔書，全文如下：
“朕向聞卿在軍中罹疾，不勝軫念。遣使慰問，且欲親聽敵情，命汝歸朝。今麵見汝疾趨於平愈朕甚怪。因解現職，特列帷幄，卿其加餐，翼朕謨猷，欽此。”
解除了第一軍司令官職務的山縣，又被任命為“監軍”了。不到三個月，他升為陸軍大臣。原陸軍大臣大山岩作為第二軍司令官，出征前線，其職務由海軍大臣西鄉從道兼任。西鄉免去兼職，專任海軍大臣。