最後，孫中山特別提到了馮玉祥修改了清王室的優待條件，並且將溥儀驅逐出北京故宮的行為，他是讚同的（等於給馮玉祥站腳助威）。
孫中山因病延緩了進京，段祺瑞抓住這個機會，趁他還來不及反對，就讓外交部答複外國公使的照會，首先對外國承認他的段政府表示感謝，繼而再次重申了段政府的一貫主張，以前各國簽訂的一切不平等條約全部不變。
隨後他就公布了《善後會議條例》，但依然沒有老百姓代表。
此時孫中山認識到時局發展方向即將偏轉，帶著未見好轉的身體趕到北京參加善後會議，但幾次與段祺瑞爭辯，他的意見都不能得到采納，不僅如此，他的幾點主張諸如容納人民團體的代表、推行普選製等都遭到了軍閥們的反對。這促使他進一步認清了自己與軍閥們之間的本質矛盾是無法調和的，善後會議完全變質為軍閥、官僚、政客們的包辦婚姻，自己在這裏純屬多餘。
徹底絕望的孫中山命令所有國民黨員全部拒絕參加善後會議，段祺瑞與孫中山的關係從此破裂，兩人在各自的道路上漸行漸遠。
孫中山的退出對段祺瑞們來說，不過是個小插曲，有他沒他一個樣。
1925年2月1日，籌備多日的善後會議終於在北京開幕，段祺瑞到會祝賀，發表宣言，並且一開始就為會議定下了基調：一、建設方案；二、重訂憲法。
關於這個建設方案，段祺瑞有自己的理解，他將民國建立以來的種種進步與不足闡述了一番（當然，都是他自己的個人理解），肯定辛亥革命的意義，指出戰亂延續下去的危機，表達出希望軍閥停戰的意願。這些都是場麵話，倒也不用過多重複，但他單獨將製憲提了出來，作為最重要最迫切的事來抓，其實是有自己的小算盤的。
為什麼這麼說，就因為他自己現在的身份——臨時執政。這個臨時執政不過是馮玉祥、張作霖和一些軍閥們臨時做出的一個過渡性決定，本身沒有任何法律依據。首先他不是國會選舉出來的，也不是總統任命的，怎麼看都顯得名不正言不順，說起話來都底氣不足。大家一團和氣的時候，兄弟長兄弟短的，倒也沒人認真追究他的出身問題。可是一旦有一天哪個家夥發飆，拿這件事攻擊他，那他這個臨時執政還不是說倒就倒嗎。如果這個善後會議能製定出一部新憲法來，給他這個l臨時執政扶正，不管是叫總理也好，叫總統也罷，總之隻要合法，名正言順。
當然，我們也應該看到，段祺瑞作為一個政治家還是有自己的抱負的。
對於這次的善後會議，他可是抱了相當高的期望。於是在會議期間，他一口氣提出了25個議案，包括各省的稅收與財政問題，以及各省與中央政府之間稅收上繳比例的問題，還有他的裁軍方案，以及裁軍後多餘人員如何安置。
段祺瑞仍然想通過這種形式達到國家一統的目的，不希望中國再四分五裂、戰火連天，由中央政府有效行使管轄權。
然而，一個思想守舊、跟不上時代、看不到世界潮流和發展趨勢的政治家，是注定不會成功的。段祺瑞希望用軍閥製止軍閥達到和平的目的，本身就顯得過於天真。將國家權力集中於少數軍閥政客之手，又體現出了段祺瑞缺乏遠大的政治眼光。
事實上，他遭受的最大阻力就來自他所倚賴的全國最有實力的派係奉係。張作霖正努力把其勢力擴展到長江流域，故對收束軍隊裁撤兵員等議案非常反感，千方百計地阻攔其通過。至於財政各案，因為財權也是軍閥們的命脈，觸及到他們的切身利益，所以也不可能通過。因此，善後會議最後隻通過了一些無關緊要的條例而草草結束，段祺瑞想通過善後會議解決時局糾紛的期望算是徹底落空了。
孫中山一直在北京，他的病被診斷為肝癌，而且越來越重。1925年3月12日，一代偉人孫中山在北京與世長辭。消息傳來，正在出席國務會議的段祺瑞立刻宣布散會，派內務部次長王來代表到鐵獅子胡同孫先生行轅吊唁。
孫中山是這個時代最偉大的政治活動家之一，他的主張得到了包括社會各界群眾的強烈擁護其個人享有極高的威望。即使是他的對手，那些形形色色的軍閥們也對他肅然起敬。由他一手締造的中國國民黨更是將他視為本黨的一麵旗幟。
為了紀念這位百年來難得一見的偉人，國民黨人絕不打算草率。他們提出準備在中央公園社稷壇舉行全民公祭，並向政府提出了申請，但段祺瑞此時卻害怕北京的學生和社會團體會借機鬧事，因為中央公園距離他的執政府實在是太近了（就是今天的天安門西邊的中山公園），於是他提出要改在偏遠一點的天壇舉行，當下就遭到國民黨人的強烈反對，紛紛發表抗議。最衝動的要數於右任了，他得知原委後氣得跳了起來，：直接跑到了段祺瑞的執政府辦公室，指著段祺瑞的鼻子拍桌大罵。迫於社會的壓力，最後段祺瑞不得不同意國民黨人的要求，允許孫中山的遺體停靈中：央公園，並允許社會各界前往吊唁。