孫中山身心疲憊，同誌背叛，極是痛心，他憑著超人的膽識和為民為國的勇氣，幾日來，指揮永豐等艦，冒著兩岸叛軍密集的炮火遊弋在白鵝潭，並不時向叛軍的集結地炮擊。同時，孫中山電令李烈鈞、許崇智等入贛，率北伐軍回師廣東，討伐平叛。
七月初，北伐軍回粵。這無疑是對陳炯明的巨大威脅，他急忙抽掉叛軍翁式亮、楊坤如等幾十個營，搶先占據了粵漢鐵路，並迫進韶關，利用韶關周圍的帽子峰、芙蓉山和蓮花山有利的地形，密布鐵絲網，構築工事，以韶關為第一防線，和北伐軍擺開決戰架勢。
吳佩孚正陶醉在直奉戰後的勝利中，打算怎樣分贓，陳炯明行動，似是一份“厚禮”，令他興奮異常。陳炯明在給吳佩孚的電文中說：“請帶兵逕出贛南，由大庾、三南兩路，分略始興、新豐等處，與陳軍前後夾擊，將孫黨完全撲滅，為一勞永逸之計。”
吳佩孚接電後，馬上致電曹錕，請轉向中央交涉餉費槍械。他在電文中說：“擬統率駐湘直軍假道湘東入贛，與蔡成勳會師，先將李烈鈞擊走後，即照陳氏計劃，直入粵中，協同動作。”
吳佩孚派出代表張禹之和陳炯明的代表陳覺民接洽，達成兩項協議：
一、沈鴻英軍隊暫留江西，勿令進前，廣西由陸榮廷所派之林虎擔任守備；
二、令援贛軍攻擊贛南，殲滅孫文部下，以絕後患。
陳炯明事先做好阻撓北伐軍的準備，搶先占據了有利地形，並且控製了粵漢鐵路，彈藥充足；而北伐軍則遠道征戰，消息隔絕，處在非常被動的地位，最終回援失敗。孫中山得知北伐軍回師失利，眼下孤軍無援，再呆在白鵝潭固守，於事無補，便決定離粵赴滬。
孫中山及其周圍的人，包括後來從上海趕來的蔣介石，也於八月九日乘英國巡洋艦摩軒號到香港，次日改坐“俄國皇後號”去上海。
這實際也宣告了孫中山第二次護法失敗。
這次失敗，孫中山將目光投向共產黨，至少他現在對共產黨已經有了一個明確的認識。孫中山在上海，由於陳炯明叛亂的陰影一直在他眼前拂之不去，正如同上次陸榮廷把他擠出廣州的情景，如他所說：“失敗之慘酷未有甚於此役者。蓋曆次失敗原因不一，而則究竟則為失敗於敵人。此役敵人已為我屈，所代敵人而興者，乃為十餘年卵翼之陳炯明，其陰毒凶狠，甚於其他敵人。”
孫中山的絕望心情由此可知。
關鍵時刻，李大釗以中共代表的身分會見了孫中山，同他分析了當前的時局，並熱烈討論了振興國民黨及振興中國的很多實際問題。
吳佩孚聽說陳炯明沒能把孫中山消滅掉，先是罵他無能，但想到他在南方的利益，也隻能緘默。吳佩孚雖然認為孫中山很難東山再起，但他從來也不敢小視孫中山的影響力。於是，吳佩孚打出“恢複法統”的旗號，夥同曹錕，逼徐世昌辭職，同時又能使一貫主張“護法”的孫中山失去依據。在吳佩孚的授意下，長江上遊總司令直係幹將孫傳芳立刻通電，讚成恢複法統，並直接了當提出讓黎元洪複職的問題，呼籲南北兩總統同時退位。江蘇都督齊燮元也發表通電，讓徐世昌下台，以恢複法統。
六月初，徐世昌無奈地表示說：“一有合宜辦法，便即奉身而退，決無希戀。”
徐世昌通電後，吳佩孚加緊活動，讓舊國會眾參兩院議長吳景濂、王家襄暨舊國會議員203人發表宣言，即日起行使國會職權，取消南北政府，另組合法政府。這個宣言，沒給徐世昌留有一點餘地。 六月二日，徐世昌見大勢已去，隻能辭職，在王懷慶等軍警要人的護送下，回到天津。同時，北京政府全體閣員，聯名眾參兩院議長吳景濂和王家襄，告之“東海順從民意，宣告辭職，依法交國務院攝行職務。但因內閣是非法總統任命，不敢以內閣名義攝行職務，故將此職權奉還國會，擁尊法統，暫以國民資格維持一切，所候接收。”
對吳佩孚和曹錕來說，機會來了，他們倒徐的目的終於達到了。可就這樣直接把曹錕捧上台，操之過急，還要等待。
天津租界內，每日讀書作畫的黎元洪，聽說吳佩孚以“恢複法統’’的名義，讓他回北京接著當他的“合法”總統，心裏真是一波三折，好些思路在腦子裏轉，明知現在是直係曹、吳的天下，弄不好就是舊戲重演，給人家當回替罪羊，但他最終難耐寂寞，心有的動。這位被遺忘的人，突然成了報紙的熱門人物，各地督軍的吹捧，吳佩孚和曹錕的“秋波”，也讓黎元洪有些飄飄欲仙，終於，在一片擁戴聲中，黎元洪決定出山。
不料，皖係軍閥盧永祥忽然發來一電，正告黎元洪說：“總統選舉法規定任期五年，河間(馮國璋)代理期滿，即是黃陂(黎元洪)法定日期終了，在法律上成為公民，早已無任可複。若強而行之，必將陷於非法。”
這封電報，簡直是給黎元洪兜頭潑了一桶涼水，先是有些沮喪，過一會兒，反而冷靜了。黎元洪感到複職也並非像姓吳佩孚說的那麼簡單，遂又想到幕僚饒漢祥，在一片叫好聲中，獨有他勸其“慎其出處”。
當日，黎元洪請來饒漢祥，對他說：“皖係的盧永祥給我來這個電報，是不是有人指使，並非對我，而是對曹、吳二人的呢?”
饒漢祥說：“先生應該三思，曹、吳二人對政府垂涎已久，他們把你這樣輕易抬出來，怕是另有打算。”
黎元洪說：“吳子玉提出恢複法統，按照法規，我該是合法的。”
饒漢祥笑了笑說：“不瞞你說，對這個問題，我多方求考而不能得適宜之解釋。不過，我倒有一個辦法，如先生真就任大總統的話，必將召開國會，那時先生可以谘請補完1917年7月的正式辭職手續，以期取得任期之合法解決。如果國會準許辭職，那就是國會承認你的法律位置了。如果國會不準辭職，先生不就是合法的大總統了。再假如國會不受理先生的谘請，那就是國會自己的問題了，你還可以接著做總統。”
黎元洪聽完，不禁大喜，可一會又愁雲密布了，他說：“今天找你來，倒不是當了總統怎麼辦，而是這個總統當不當?”
饒漢祥急說：“當。隻是別那麼急，自古就有得民心者得天下之說。”
隨後，黎元洪和饒漢祥進行了密談。
黎元洪得計後，馬上假惺惺通電全國，電雲：“元洪自引咎辭職，蟄處數年，思過不遑，敢有他念，以速官謗。果使摩頂放踵可利天下，猶可解說，乃才輕力薄，自覺弗勝，諸公又何愛焉。
黎元洪的通電，讓曹、吳有些起急。吳佩孚急忙派出代表，會同北京國會吳景濂和王家襄等二十餘人，前往天津，勸說黎元洪。智慧過人的吳佩孚看出來了，知道黎元洪和直係攤牌，要權力，要人心。這種時候，吳佩孚什麼都能使出來，隻要先讓黎元洪上台，國家維持一種和平，餘下事可慢慢來，至於曹錕，就等著吳佩孚給他報喜訊，捱到適當時機，再展他的宏圖大業。眾參兩院議長和曹、吳的代表，來到黎元洪天津的宅子。從此，黎宅天天是黑壓壓一屋子人。