蔣介石與黃郛可說是莫逆之交。早在辛亥年間，陳其美、黃郛、蔣介石在上海打鐵浜互換蘭譜，相約“安危他日終須仗，甘苦來時要共嚐”。蔣介石還將此誓言刻於兩柄寶劍上，分送二位盟兄。此後三人命運多舛，誓言未改，隻是相互依仗的內容大不相同。就蔣氏而言，他仗著陳其美的誘掖扶持，接近並步入孫中山的資產階級革命領導核心，得以共享早年革命曆史的榮耀；而黃郛則是累建功績而所嚐多是罪責和恥辱。
1928年年初，下野後又重新上台的蔣介石急欲完全“統一”，舉兵二次北伐。因深感外交棘手，請出黃郛擔任外交部長，專門去做爭取各帝國主義諒解、支持的“轉圜”工作。以後的十幾年間，黃郛幾次承擔對日的外交使命。因他早年留學期間，曾結交了不少日本的政、軍界人士，尤其與元老派的關係較為密切。自日本提出“二十一條”後，他便注意少與軍界來往。隨著所謂“溫和”的“幣原外交”被強硬的“田中外交”所代替，他的外交活動也更難施展。
黃郛此番出任國民政府的外交部長，雖為時甚短，但其政治形象卻大大改觀，昔日對資產階級曾有所貢獻的特立獨行之士，成了赫赫有名的“親日派”。究其原因有二：從“公”的角度說，他為推行國民黨統治集團的外交政策———取得帝國主義的承認，完成由革命的反帝外交向爭取帝國主義支持的外交方針的轉變———而不遺餘力；從“私”的方麵說，在涉及有損國格和名譽的外交事務上，他不僅要為蔣三弟出麵，而且還要代之受過。此次“濟南慘案”就是這樣。
蔣介石害怕與日軍衝突會使北伐大業中斷，決定不抵抗，命令軍隊大部撤出濟南，取締一切反日活動，同時連續派代表請求日方停戰議和。
蔣介石怕自己的妥協退讓遭別人攻訐，在1928年5月10日致電黃郛，要他轉告日本福田：“不妨礙我軍北伐，則對於反日運動，中正可以極嚴厲手段阻止之……中正為增進睦誼計，亦可以向日軍道歉表示真誠也。”可第二天就覺太有損於自己，連忙再電黃郛：“黃外交部長：前上一電，既請托矢田或汝耕轉達之意，最好以兄之名義電告，可代表弟辦到多少程度，不必用弟名義，如何，請酌！總之速了為宜也。中正灰未。”
黃郛有苦難言，但還是給與日方直接辦交涉的殷汝耕去電，力爭為蔣氏解脫困境。
當日本軍隊和北伐軍隊開始衝突之時，日軍首先就把濟南的外事機構交涉署包圍起來。這是因為日本人與張宗昌訂有不能公開的密件藏在交涉署，他們怕北伐軍得到這些文件並公之於世。張宗昌與日軍的密約，是在二次北伐剛剛開始之際，由張方參謀長金壽良前往青島和日本駐軍簽訂的。其內容是以日軍驅逐國民革命軍於山東境內為條件，而將青島和膠濟鐵路權益讓給日本。
黃郛聽到窗外士兵的跑步和鳴槍聲，馬上心神不安了。他看了看表，扶著樓梯走到門口，一個日軍排長正好跨進來，指著他大聲叫嚷：“你是什麼人？不許隨便走動！”
雖然黃郛的自尊心受到很大打擊，但他還是心平氣和地掏出外交官銜片：“我是中國外交部長黃郛，你們不可這樣無禮，我要你去告訴你們的司令官，中國外交部長在交涉署，你們不能派兵到此，對我這樣橫加侮辱。”
日軍排長在擠眼的同時又咧開嘴角，滿臉猙獰：“你是外交部長？”
“是的，你可以去問你們的福田司令官。他認識我，我的日本友人很多。”黃郛用日語說道。