蔣介石雖知道廣州方麵有所醞釀，仍決定於五月五日召集國民會議。五月十五日蔣授意“國民會議”電陳濟棠，勸陳懸崖勒馬。電雲：
廣州陳總指揮伯南並轉香師長翰屏、餘師長漢謀、李師長揚敬鑒：本會議代表全國國民，集會首都，以定國家長治久安之計，而執事忽有江（五月三日）通電，拾鄧澤如、林森、蕭佛成、古應芬四監委失實之彈章，對於黨政措施，肆意攻訐。道路傳聞，且謂執事調動軍隊，似將別有圖謀，本會議殊為駭怪。執事身隸黨籍，重膺軍寄，乃對國家政治任意發言。自來軍閥倡亂，動托兵諫之名，卒之不接踵覆亡，自李宗仁、白崇禧、張發奎以迄閻錫山、馮玉祥，往事不遠，可為洞鑒。執事於此時張皇詆譏，忘出位之戒，聳天下之聽，事之不祥孰過於此。本會議不忍執事之自墜其令譽，而貽禍於國家。由是正式決議，對執事致鄭重之警告。唯民意之製裁，實禍福所攸關，幸懷懸崖之危，勿貽噬臍之悔，何去何揮唯執事為國自省。國民會議刪。
這電當然不起什麼作用。廣州“中國國民黨中央執監委員非常會議”於五月二十五日電致南京，限蔣介石在四十八小時內辭職。過了兩天，乃正式召集全體會議，決定另設國民政府。同時推選唐紹儀、汪精衛、蕭佛成、林森、古應芬、孫科、李宗仁、蔣尊簋（蔣尊簋是浙江人，與蔡鍔同是日本土宮三期生，章太炎評論他與蔣百裏說“浙之二蔣，傾國傾城”。）、陳濟棠、鄒魯（1885—1954，廣東大埔人。1924年當選為中國國民黨中央執行委員會委員、常委兼青年部部長。為西山會議派骨幹分子。1933年，任廣州中山大學校長。抗日戰爭期間，先後任國民黨政府國防最高委員會常委、國民政府委員、國民黨中央常務委員。1949年到台灣。1954年2月13日病死。）、許崇智、鄧澤如、唐生智、李烈鈞、陳友仁等十五人為國民政府委員；以陳友仁兼任外交部長，鄧召萌為財政部長，陳融為國民政府秘書長，李郎如為參軍長。
廣州國民政府於五月二十六日宣告成立，委員於五月三十日聯名發表就職通電，略雲：
竊維民國肇造，於今二十年矣。中間內亂頻乘，殆無寧歲，究其亂源，厥有二端：其一迷信武力，其二迷信中央集權。二十年來之擾亂，乃由此造成。曆曆往事，國之慨然！同人等不敏，以為此後施政，必將此二大迷信同時打破。蓋以武力求統一，不如以建設求統一，總理所謂以德服人者此也。國民政府當確此本旨，以為施政方針。對於一切事務，除有全國一致之性質外，悉以付之各省以進行建設，中央政府對於地方必從寬大，使能從容展布。即使中央與地方之間，或地方與地方之間，偶有爭持，亦本諸以建設求統一，不以武力求統一之精神，使此爭持不決於軍事之勝敗，而決於政治成績之優劣。如是，則內亂不作，分崩離析之禍，無從發生。十年來紛擾之局，其必有待於此，乃能歸於寧息。盼我各省市政府，共體斯意，即日與迷信武力與中央集權之個人獨裁南京政府，斷絕一切關係，而相與參加此新成立之國民政府，以建設求統一，以均權求共治。彼個人獨裁者，必不戰而屈吾人正義之主張。耿耿此心，尚祈鑒察。
另外，廣州國民政府又發表宣言，否認南京政府。但廣州國民政府隻統轄廣東、廣西兩省。此外沒有任何一個省市，同蔣介石的南京政府斷絕關係。
三、兩廣軍政人事重新調整
廣州國民政府不設主席，由國府委員互推唐紹儀、汪精衛、古應芬、孫科、許崇智為國民政府常務委員，依照組織大綱的規定，國民政府委員會議，由常務委員輪流任主席。此外，常委不享有什麼特權。但古應芬因與陳濟棠係把兄弟，陳事無大小，悉從谘詢，所以他權傾一時。汪精衛此次入粵，沒有撈到什麼好處，鬱鬱不得誌。
廣州組府以後，決定將兩廣軍政人事，重新予以調整。在軍事上，兩廣的軍隊一律取消當時的稱號，恢複國民革命軍的名稱，由國府任命陳濟棠為第一集團軍總司令，以餘漢謀為第一軍軍長，香翰屏為第二軍軍長，李揚敬為第三軍軍長；李宗仁為第四集團軍總司令，白崇禧為副總司令，張發奎為前敵總指揮兼第四軍軍長，廖磊為第七軍軍長，李品仙為第八軍軍長，黃旭初為第十五軍軍長。
在政治方麵，由於原任廣東省政府主席陳銘樞在蔣介石扣留胡漢民後，態度曖昧，被迫離粵，所遣廣東省政府主席一職，初由陳濟棠兼代，後國府任命林雲陔繼任。廣西省政府主席自黃紹竑於一九三〇年八月發出“馬”電自請辭職後，地方政務由李宗仁總部政務處處理，一九三一年三月二十五日，李宗仁依“革命同誌會”的決定，將總部政務處撤銷，改組為總司令部政務委員會，以黃旭初為主任委員，對廣西省內直接發號施令。六月九日，廣州國府依李宗仁的建議，任命黃旭初為廣西省政府主席。七月一日黃就職。
當廣州組府時期，黃紹竑在香港。李宗仁、白崇禧乘到廣州開會之便，特去香港窩打老道看他。李、白堅邀他回廣西一行，於是相與起程返桂。黃紹竑到南寧後，李宗仁請他在廣西省黨部大禮堂對廣西軍政人員講一次話。他在講話中多談經濟建設，但沒有提出什麼具體建議。不久，汪精衛、孫科到梧州訪問，李宗仁特偕黃赴梧接待，當歡迎會舉行時，李也請他講話，黃講的又是和平建設那一套，不適合當時的政治氣氛。李宗仁因對他說：“你這樣注意經濟問題，請你留在廣西擔任經濟督辦如何？”汪精衛、孫科也讚成。他答應到香港後考慮決定。後來黃以蔣要他做廣西善後督辦，而兩廣又要他當經濟督辦，兩麵均難以討好，於是離開香港往菲律賓考察去了。
寧粵對峙，廣州方麵實踐其不以武力求統一的主張，並不出兵反蔣，隻是唐生智利用唐生明所部第八軍在湘南作了一些小規模的活動。蔣介石因五月八日在江西中共中央根據地進行的“圍剿”，遭到多次挫敗，自顧不遑，也無力對兩廣下令討伐。六月十三日，國民黨三屆五中全會在南京召集，蔣對處理廣東事變方針提付討論。結果認為：江西紅軍勢力日益做大，“剿赤”軍事損兵折將，形勢日非；當此時期，內戰不宜再有，寧粵對峙局麵，必須設法疏解，以固國本。十四日，全會對粵局通過了這樣一個空泛的決議：“對廣東組織偽軍政府事，由中央監察委員會查明處理。”這就是說，蔣對廣東組府采取等著瞧的態度。
胡漢民被關在湯山幾天之後，血壓急劇升高，替他看病的隻有鄧真德醫生一人。後來國府衛生署長劉瑞恒到湯山替胡檢驗，發現胡的血壓竟高到一百九十度以上，不禁大驚失色，堅持給胡打針，但胡阻止了他。那時胡對蔣派來的醫生已存著戒心了。三月八日，經王寵惠出麵勸說，蔣準把胡漢民接回南京雙龍巷私宅休養，但行動不能自由，外人也不許隨便出入胡宅，這就等於公開地軟禁。
到了七月，廣州“非常會議”一麵訂期召開國民黨第四次全國代表大會，一麵揚言出師北伐。蔣介石為了緩和廣州方麵的反蔣情緒，七月十三日又準許胡漢民遷往香鋪營孔祥熙公館居住，以示胡漢民有較自由活動的餘地。
四、“九一八”事變後，寧粵間的和平醞釀
寧粵對峙的冷戰局麵，一直維持了四五個月。一九三一年秋，忽然霹靂一聲，“九一八”事變爆發了。此一震驚世界的日本帝國主義的侵略行動，激起了全國人民團結對外的呼聲。蔣介石的南京政府雖然下令給張學良不準抵抗，但對於全國要求團結禦侮，共赴國難的呼籲，也不能不作表麵上的應付。因此蔣一麵令出席日內瓦國際聯盟會議代表施肇基向國聯報告東北事變，籲請主持公道。一麵托李石曾、張繼、吳鐵城於十九日電廣州黨政要人請取消敵對行動，一致救國。二十日南京國民黨中央執行委員會又電請粵方共赴國難。二十一日，廣州非常會議和國民政府電複南京，願意在適當條件下，“息爭禦侮”。
九月二十四日，南京國民黨中央常務委員會作出決議：“派蔡元培、張繼、陳銘樞赴粵磋商和平。”蔡等到廣州後，與汪精衛、孫科、陳濟棠、李宗仁、古應芬等進行多次會談，呼籲團結禦侮，情辭懇切。但粵方堅持，必須蔣介石無條件釋放胡漢民，並且把他送到上海去，準其自由行動，然後粵方才允許派出代表，去上海進行和談。幾經往返磋商，蔣才接納粵方要求。十月十四日上午九時，胡漢民離開南京，乘火車前往上海，結束了他被囚湯山的一幕。十五日胡即從上海電廣州唐紹儀、汪精衛、古應芬、蕭佛成、鄧澤如、陳濟棠、李宗仁等，請推代表去滬進行和談。原電雲：
廣州唐少川先生、汪精衛先生、古香芹先生、蕭佛成先生、鄭澤如先生、陳伯南先生、李德鄰先生、伍梯雲先生、李君佩先生鑒：備承愛注，至極銘感，弟已於昨日下午抵滬。現在外患急迫，不弱於甲午，而國內不調整之現象，則為甲午以未有。其所以致此之由，在於過去糾紛迭乘，政治舉措失當。人每欲挾黨內一部分力量為己有，黨即失其團結之本體；人每欲自私，即互相排他，排他則糾紛愈多，而各人遂忙於對人，忽於對事。此其錯誤，皆不容吾輩各自諉卸責任，弟亦容或為錯誤中之一人。今日國難嚴重，正為吾黨同誌徹底覺悟，力圖團結之急要時機。蓋非各自覺悟以改正已往之失誤，即無以求黨內之團結，非黨內團結之堅固，更無以集中全國之力量以對外。弟生平對人毫無問題，而對事則錯謬必求改善，正義必求推進。良以過去一切，其價值乃所以教我將來。職是之故，目前欲求今後政治上開展之生路，乃不能不對過去種種錯謬，持改正之心。今公等在粵，備嚐艱苦，不惜犧牲，所持者，亦唯此而已。弟深信吾黨同誌，能體總理親愛精誠之旨，斯黨可以團結堅固；能體總理天下為公之精神，斯過去一切錯誤，即可改正，而今後安內攘外之方，亦可確定，甚盼公等推舉代表來滬，進行和議，共商大計，無任企盼。漢民叩刪。
很奇怪的，胡電竟漏寫孫科的名字。大概在胡漢民心目中，以為孫科五月下旬離開南京去廣州，原來是負有調停使命的，後來可能被廣東方麵拉下水了。從而認為他之參加粵府，並非出乎本心，故不想跟他談黨事。從這些地方看，那就證明胡氣量狹小，乃“帝王師”一類人物也。
胡電到後，汪精衛、孫科、陳濟棠、李宗仁、古應芬等於五日晚舉行會議，決定派汪精衛、古應芬、孫科、鄧澤如、李文範為代表，偕蔡元培、張繼赴上海出席正式和平會議。同時決定了一項腹案，即以蔣介石下野為寧粵合作的前提條件。
五、上海和議及廣州四全大會的波瀾
一九三一年十月十八日，粵方代表團汪精衛、古應芬、孫科、鄧澤如、李文範五人偕來粵協商和平的蔡元培、張繼由廣州去香港，乘昃臣總統輪北上，黃紹竑、唐生智、張發奎也偕行。黃紹竑從菲律賓返港後感到十分無聊，李宗仁特勸他隨代表團去上海看看，而唐、張二人則出自汪精衛的邀請。後來證明，汪約張北上，是有計劃的，他把張發奎當做一張王牌，拿來做與蔣介石談判合作的講價條件。
在粵方代表團北上的次日，即十月十九日，南京國民黨中央臨時常務委員會開臨時會議，決定凡在第二屆四中全會以後，因政治原因而被開除黨籍者一律予以恢複。這就意味在一九二九年三月在蔣桂戰爭中被開除出黨的李宗仁、李濟深、白崇禧以及汪派的陳公博等得以重返黨內。南京采取這些措施，目的在表示其有和談誠意。
十月二十一日，粵方代表團一行九十一人抵上海，受到南京方麵的熱烈歡迎。次日蔣介石從南京飛上海，與粵方代表晤談，懇邀他們入京，共赴國難。但後者表示，和議隻能在上海舉行。蔣不得已，於回到南京後在國民黨二十五日的中央常會中指定李石曾、蔡元培、陳銘樞、張繼、張靜江（1877—1950，浙江吳江人。1924年當選國民黨中央執行委員，次年當選中央監察委員。後又被選為中央執行委員會常務委員會主席。1927年後，任國民黨特別委員會委員、國民黨政府全國建設委員會主席、浙江省政府主席。後因四肢癱瘓逐漸脫離政治活動。1938年去歐洲治病。第二次世界大戰爆發後去美國。1950年9月在紐約病逝。）為代表。二十七日，寧粵雙方代表在上海舉行預備會議，擬訂和議日程。二十八日，古應芬病逝廣州，粵方大員自是去了一個。原來古應芬到香港後因患牙痛，折返廣州療治。他初想請德國醫生柯道治理，柯道主張他入頤養團割治，索手術費三千元。古以柯道敲竹杠，不肯入醫院，另請中大附屬醫院牙科醫生拔去一牙。拔牙後忽發高熱，一變而為膿毒入血的險症，而告不治。古死以後，陳濟棠哭之甚哀。開辦勷勤大學以紀念之。廣州組府一幕，完全是得自古應芬的調度。古原想請陳銘樞參加，曾輾轉托人示意，但銘樞以對蔣有私恩，忽匆匆離去。陳濟棠恐勢孤，才與廣西的李、白攜手合作。蔣介石鑒於形格勢禁，不敢派兵南下，從此陳濟棠偏安嶺南多年，被人稱為“南天王”。胡漢民之獲釋，也應歸功於古應芬。所以，胡哭古詩有：“拯我於危知甚苦，跡君行事概難能。”