此後，李大釗又多次拜訪孫中山，和他商討振興國民黨以便振興中國的一係列重大問題。
李大釗知識淵博，分析問題鞭辟入裏，尤其是他真誠的態度，深得孫中山的好感。他們的會談往往一談就是好幾個小時，幾乎到了廢寢忘食的地步。
孫中山對李大釗十分欽佩和尊敬，認為這樣的人才是真正的革命同誌，在鬥爭中能夠依靠他們明確的思想和無畏的勇氣。因此，他當即邀請李大釗加入國民黨。
李大釗提醒說：“我可是第三國際中國支部的成員，你不怕有什麼麻煩嗎？”
孫中山回答說：“這不打緊，你盡管一麵做第三國際的黨員，一麵加入本黨幫助我。”
由於當時中共中央已經作出了國共合作的決議，所以李大釗同意了孫中山的建議。隨即由張繼介紹，孫中山主盟，李大釗加入了國民黨。
此後，一批著名的共產黨人如陳獨秀、蔡和森、張太雷等人先後以個人身份加入了中國國民黨。
幾乎在李大釗與孫中山會談的同時，來華與北京政府商談外交、商務的蘇俄政府副外長越飛，也秘密派代表到上海會見孫中山。
此後，孫中山又與蘇俄代表越飛進行多次會談，簽署了“聯合宣言”，確定了雙方密切合作，推動了中國反帝反封建事業的方針。
孫中山在十分困難的時候，得到了中國共產黨和蘇俄的真誠幫助，非常感激，他決定接受中國共產黨和蘇俄代表的建議，聯俄聯共，改組國民黨，使之成為國共合作的統一戰線組織。
1922年秋天，孫中山在上海召集國民黨重要黨員商討改組事宜。恰好在這時，陳炯明被滇桂聯軍驅逐出廣州，孫中山於1923年2月，重回廣州組織大元帥府並就任大元帥。
總結以往的經驗教訓，孫中山痛切感到，要取得革命的成功，沒有一個好的政黨是不行的。而國民黨的現狀不能令人滿意。他決心改組中國國民黨，淘汰不純分子，吸收革命分子。
1922年9月，孫中山開始進行改組國民黨的準備工作，為實現國共合作創造條件。
9月4日，他在上海召開了研究改組國民黨計劃的首次會議，與會者53人。他在會上解釋了聯俄聯共政策，會議一致讚同孫中山改組國民黨的主張。
11月15日孫中山又召集國民黨代表59人開會，他審議經過修訂的中國國民黨改組案。
12月16日，他再次召集各省代表65人開會，討論修改中國國民黨改組案宣言和黨綱黨章。
在三次會議的基礎上，1923年1月1日，孫中山發表了《中國國民黨宣言》，1月下旬，以總理名義任命了國民黨本部各部部長、參議和軍事委員等其他職務。
1924年1月，在經過了充分的準備之後，中國國民黨第一次全國代表大會在廣州高師禮堂正式開幕。參加這次大會的代表共有165人，孫中山親自主持了這次大會。
大會通過了《中國國民黨第一次全國代表大會宣言》，確定了國民黨聯俄、聯共、扶助農工的三大政策，實現了國共第一次合作。
這份宣言是一份重要的曆史文獻，其中詳細闡述了孫中山的新三民主義，提出了反帝反封建的革命綱領。
這次大會選舉產生了改組後的國民黨第一屆中央領導機構。在選舉出的24名中央執行委員中，有3名中國共產黨黨員。17名候補執行委員中，有7人是中國共產黨黨員。
大會閉幕第二天，孫中山主持召開了國民黨一屆一中全會，中國共產黨黨員譚平山被選為中央執行委員會常務委員兼中央黨部組織部長，林祖涵擔任農民部長，另外還有一些中國共產黨黨員進入國民黨中央黨部工作。
中國國民黨第一次全國代表大會的召開和勝利閉幕，標誌著孫中山改組國民黨工作的完成和第一次國共合作統一戰線的正式建立。