“合無仰懇天恩，俯念湖北商埠初開，準將黃遵憲由臣調往湖北差委，並仍辦理南洋五省教案。江輪甚便，來往甚速，上海有事，仍可隨時派令回江。如此辦法，似於湖北荊、漢、宜三處通商事務及江南五省教案均有裨益。”
對於張之洞的這一請求，光緒帝朱批“著照所請。”二月初七日，張之洞發電黃遵憲，以沙市開埠為由，命黃“速來鄂”。此時劉坤一已回任兩江，聽到這一消息，亦不放人，於二月十三日（4月5日）電奏：
“查江西教案，電經西撫，已委員攜卷即日至滬，必須由該道商辦，勢難遷離。即其餘各省之案，亦須該道接續辦理。各口非駐有領事，仍須上海總領事、主教主持。該道既為法總領事信服，在滬與議，當易就範。且蘇、浙、鄂、湘四口通商，曾商總署，擬均在滬由該道與商。四口之中，蘇浙彼尤注意，是該道留蘇，教案、商務皆得兼顧。懇恩準將黃遵憲暫留兩江，俟各事大致商定，鄂有要事，再令往來其間。”↖米↖花↖書↖庫↖ www.7mihua.com
次日，光緒帝又一次批準。劉坤一為此發兩電給張之洞，留黃遵憲在蘇州，與日本領事荒川已次開議蘇州開埠通商之事。
王、張、劉是當時權勢最大的三位總督，而黃是三人點名奏調的洋務人才，可見黃此時聲望極大。然在此後的蘇州開埠談判中，黃遵憲與日本方麵議定的“商埠章程”條款，引出了前駐箱根副理事（副領事）劉慶汾許多意見。劉發電張之洞大加批評，張即發電江蘇巡撫趙舒翹及黃遵憲等人，要求修改。此中的曲折，也稍稍影響了張、黃關係。很可能是因蘇州開埠談判遭至各方責難，黃遵憲尚未完成談判，即躲開爭議，以“請假”名義去了天津，於光緒二十二年八月十五日到達。王文韶八月二十九日（10月5日）上奏，“委令總理北洋水師營務處並隨同辦理洋務”；光緒帝下旨“吏部知道”。十月初九日（11月13日），總理衙門發電王文韶，調黃遵憲“商蘇州租界事”，黃十二日去北京。黃遵憲到京後，十三日光緒帝下旨預備召見，十六日光緒帝召見，十九日（11月23日）以“四品卿銜”命其為清朝駐德國公使，二十一日光緒帝再次召見。黃隨即發電張之洞：
“頃奉旨，賞四品卿銜，簡使德國。屢邀薦拔，敬謝恩知。遵憲。”
未久，黃遵憲因其任命被德國所拒，再次發電張之洞：
“遵憲稟。密。憲定派往英，奉諭前日，或唆英使到署偶詢，遂改德。德使謂，華預商英，不商德，英不願接，德當照辦。現據英使函，言明無預商事，亦無不接之言。已由署電許公，未得複。此次來京，召見兩次，上垂意甚殷，廿五召見張侍郎，連稱好！好！惟國事過弱，終慮不堪驅策，孤負聖恩耳。豔。”
黃遵憲以上兩份電報，說明了其受命到被德國所拒的過程，也說明了其對張之洞“薦拔”的感激。十一月二十日（12月24日），張之洞發電楊銳，命其轉交黃：
“京。喬：轉交黃公度。彼族誤聽傳言，致阻乘槎，深為悵悶。譯署必另籌位置。祈示。洞。號。”
黃遵憲收到電報後，立即回電：
“承溫諭，感甚。初十，德使申給地沽（泊）舟之請，言華允所求，便可接黃。廿二，複來轉圜。轉（總）署既（答）以黃有別差，伊不願往，辭之。至有無位置，自關國體，亦出自聖恩，憲未敢預聞。憲稟。敬。”
黃遵憲此次雖未獲職，仍回任天津北洋水師營務處，然光緒帝已對其有較大的好感。