按照雙方的戰鬥力比較，吳佩孚練兵較嚴格，士兵戰鬥力強，而且吳本人善於戰場指揮。但奉軍武器更先進，裝備更完善，尤其是飛機助陣，時不時飛到作戰區域上空猛扔炸彈，吳佩孚的軍隊哪見過這陣勢，完全不知道怎麼應付，一下子亂了陣腳。雙方實力比較接近，所以如果繼續較量下去，最終誰勝誰負還難以預料。就在這最為關鍵的時候，吳佩孚聽到了一個消息。
這個消息他無法接受，更不願意相信。但事實告訴他，那是千真萬確的：馮玉祥兵變了！
馮玉祥為什麼兵變？起因並不複雜，還是因為吳佩孚。吳佩孚向來看不慣馮玉祥的作風，因為他似乎處處站在道德高地，行事很像南方的革命軍，這讓吳佩孚對他不得不提防。第一次直奉戰爭後，馮玉祥因為軍功獲得了河南督軍的位置，吳佩孚就老大不樂意，處處找機會排擠。而馮玉祥又恰恰是一個不甘心俯首聽命的角色，當然對吳佩孚的排擠極為不滿。
有一次，逼急了的馮玉祥跑去找曹錕訴苦，說是吳佩孚要繳他的械。曹錕也愛惜這員為自己打天下的大將，但對吳佩孚又沒什麼辦法，隻好安慰他說：不會的，吳佩孚怎麼會這麼做呢。你們要是實在不和，我給你另外想個辦法吧！後來不久他就任命馮玉祥為陸軍檢閱使，吩咐他帶兵駐紮北京南苑。這就等於將馮玉祥晾了起來，河南的位置也讓了出去。由此馮玉祥對曹錕也開始若即若離。
從此以後，馮玉祥已經徹底不相信吳佩孚和曹錕，為了保住自己的地位，他開始和段祺瑞秘密聯絡，等待時機。
1924年10月，馮玉祥看到吳佩孚連連受挫，軍心動搖，便命國民軍的先頭部隊以每天200多裏的速度向北京進發。為保證行軍速度，馮玉祥讓先頭部隊把帳篷、炊具等物沿途留下不動，以便後續部隊到達時縮短吃飯、休息的時間。就這樣一路急行軍，馮軍於lO月21日晚悄悄地進入了北京城。
率先入城的馮軍鹿鍾麟部切斷電報、電話等通信聯絡，包圍總統府，捉住了曹錕。23日早晨，馮玉祥占領了整個北京，這就是“北京政變”。
第二天下午，馮玉祥、胡景翼、孫嶽及主要將領和一些有關的政客在馮玉祥的司令部開會，決定電請孫中山北上主持大計，同時還決定請段祺瑞就任國民軍大元帥，來京處理一切事務。
馮玉祥的北京政變就好比後院放了把火，令前線直軍軍心大亂，直奉戰爭形勢陡轉。吳佩孚在得知馮倒戈的消息後，倉促之間把山海關戰事交給張福來負責，自己率隊從海道回天津救援，他曾密令豫、鄂、蘇、浙等省火速抽調軍隊北上相助，但各省多發電遙為聲援，援軍卻未到。奉軍得灤州後就切斷了直軍內外的聯係，直軍在山海關完全失敗。
馮玉祥、胡景翼、孫嶽三軍乘勢進攻，孤立無援的吳佩孚隻好於11月3日率部分幕僚衛士乘船到大沽口，渡海南下。但他並不甘心失敗，在離開天津前，他在天津東站給段祺瑞打電話，說出了自己的打算：將軍隊開進天津各國租界，就能引起外國插手幹涉，然後借局麵混亂之際火中取栗。
段祺瑞回答說：“你是最優秀的軍人，為什麼要惹出國際問題呢？我看你先休息幾天吧！”
吳佩孚聽了之後連稱：“老師，我遵命。”當即乘車回塘沽轉船逃走。臨行前還將無法攜帶的彈藥輜重通通加以封條，上書“移交段督辦查收字樣”。
對於吳佩孚，段祺瑞的感情是複雜的，平心而論，他是很欣賞吳佩孚的才華的，大有英雄相惜之感，。但他們各屬不同派係，矛盾無法調和。不趕走吳佩孚，直係勢力將控製北京政局，他老段自然難有出頭之日，但直係軍隊既然已經瓦解，對吳佩孚本人就沒有追殺到底的必要了，而且皖係勢力還未恢複，他還希望通過保留直係的部分實力而同北方的奉係、國民軍形成鼎足，使任何一派都不得為所欲為。於是他通知蘆台奉軍暫緩前進，給吳佩孚南逃爭取時間。
11月5日，曹錕下停戰令和罪已令，移居團城。段上台後，對曹錕也加以了保護，曹於1926年4月10日獲得自由。此後，曹亦為東山再起努力過，他曾通電直係諸將擁其複位，但失敗了，吳佩孚就特別不讚成擁曹複位。後來，曹錕輾轉河南、山東等地，最後到天津做了寓公。由一個賣布小販到以賄選爬上北洋政府“大總統”寶座，曹錕的一生也是頗耐人尋味的。“七七事變”後，日偽漢奸以高官厚祿相許，要他出來做傀儡，曹錕不為所動。1938年5月17日，曹在天津病死，終年76歲。
直奉戰爭曆時兩個多月，以奉張大勝結束，直係主力被殲，直係軍閥自此由盛而衰。
就任執政，重掌權柄隨著吳佩孚戰敗南下，直係勢力在北方覆滅。這一切都在段祺瑞的算計之中。他很高興地看到，自己聯奉反直的計劃終於獲得了成功，不禁為自己高明的算計得意不己。同時他也知道，自己政治生涯的第二個春天馬上就要到來了。不過，多年的曆練告訴他，不能高興得太早。
首先是計劃中的一些細節發生了變化。原計劃中奉軍是不能入關的，但是張作霖擊敗吳佩孚後，卻沒有遵守這一約定，直接將軍隊開到了天津附近。這是與馮玉祥原來的打算相反的，他的目的就在於取得華北直隸等地為地盤。現在奉軍大舉入關搶占地盤，就使得他的打算落空了，北方出現了奉係和國民軍兩大勢力對立的局麵，所以段祺瑞就不得不考慮奉係張作霖的態度了。對於馮玉祥邀請他為國民軍大元帥的電報，他也是東扯西拉，不說正題。另外，南方各地督軍們是個什麼態度他也吃不準，因此怕把自己陷於被動。
出乎馮玉祥預料的，北京政變後的局勢對他來說日趨惡化。張作霖非常討厭馮玉祥，他曾對人表示說：“馮玉祥替咱打仗，那是120萬小洋錢買的他，他不能主張國事。”奉係其他將領認為馮的野心又大，又會造作，是一個很難相處的人，但張氏父子和奉軍一般高級將領對段都很尊敬，把他看作是北洋元老中最有希望的人。所以，張作霖考慮要聯段製馮，他也宣布擁段做聯軍統帥，但考慮到孫中山的聲望，又於1924年10月30日致電孫中山，也請他北上。
馮玉祥在與張作霖、段祺瑞周旋之時，感到自己實力不足，迫切希望能拉到一支盟友，思前想後，隻有孫中山的思想與自己接近，於是在政變後，馮玉祥立即邀請孫中山北上共商大計。馮玉祥還順便幹了件大事：他派鹿鍾麟把溥儀驅逐出宮，廢除其帝號，並修改民國初年對清室的優待條件，算是“把皇帝統治的最後一點痕跡也鏟除了”。對此，段祺瑞很是不滿意，甚至拍電報去責備馮玉祥，馮玉祥知道段祺瑞不滿意他的行為，’但他卻不認同段祺瑞的思想，他曾經調侃說：“我把皇帝趕走，礙著你什麼事了？是不是段先生曾經當過前清的大臣，過去老給皇帝磕頭上了癮了？”段祺瑞對此不滿，可卻有人大聲喝彩，那就是號稱民主鬥士的孫中山，他堅持認為馮玉祥此舉算是斬草除根，將來看還有誰來複辟。
孫中山在11月4日分別回複張作霖、馮玉祥，同意即刻北上。段祺瑞本還在觀望南方各省的態度，得知孫中山要北上的消息，馬上緊張起來，電促馮玉祥、張作霖到天津開會，共商收拾時局的辦法，這就是“天津會議”。馮玉祥接到段電後未即啟程，準備等孫中山到津後再去，以免顯得人單勢薄。
但段卻派人到京催促，馮玉祥不得不在11月9日啟程赴天津。他是隻帶了副官、馬弁幾個人到天津的，張作霖卻是等到他的兩師人馬到津後，才和盧永祥一塊抵達天津（此時的盧永祥看到直係戰敗，便從日本回國，投奔了張作霖）。
到了天津，段祺瑞宴請張作霖、馮玉祥。為了將他們的關係拉近，便於自己以後執政時少一些麻煩，他特意將馮玉祥的功勞大大誇了一番。沒想到張作霖一下子站了起來，對他說：“我們起義是為了國家，這是當兵的分內之事。但起義和收買完全是兩回事，收買過來的人不能參與國家大事的討論。”說完，頭也不回地走了。
這話明顯是衝著馮玉祥來的，措手不及的馮玉祥非常尷尬，段祺瑞也沒想到張作霖這麼不給麵子。畢竟馮玉祥是自己一手拉過來的，他張作霖不認賬，老段可不能忘恩負義，於是馬上勸馮玉祥，好話說了一籮筐。會後又拉著馮玉祥去張作霖的下榻處拜會，張作霖礙於段祺瑞的麵子，不好講馮玉祥怎麼樣，隻好說了幾句場麵話，算是讓馮玉祥有了個台階下。
接下來就該考慮組建政府的事情了。由於各地督軍一直推舉段祺瑞出來主政，張作霖不反對，於是段就在天津召開了特別會議，討論政府組建一事。在會上，張作霖拒不承認當初的約定，說什麼不進關的說法是個誤會，根本就是兩邊的人聽差了。同時還一並推翻了其他的承諾，諸如請孫中山來京主持政局，請段祺瑞主持軍務等，並且還提出必須對南方的參與直係勢力繼續用兵，以擴張奉係的勢力。段祺瑞可不想讓奉係徹底控製全國局勢，那他可就沒戲唱了，馮玉祥也堅持當初的和平立場。由於張作霖剛剛進入關內，還沒有站穩腳跟，不想過分得罪段祺瑞，以免自己無法收場。於是最終商定：奉軍沿津浦線進至德州為止，但不侵入浙江；國民軍沿京漢線向河南發展，但不進入湖北；允許吳佩孚和平下野，不下通緝令；召集全國善後會議，討論組織政府和一切善後問題。
由於南方各省督軍通電，在北京政府未成立之前，一切從北京發出的命令都不會承認，迫使這幾個人不得不坐下來馬上解決政府組成問題。馮玉祥一向比較傾向南方革命黨人的主張，希望新政府由委員製組成，孫中山、段祺瑞、張作霖、盧永祥、馮玉祥等人為委員，組成政府。沒想到剛一提出來就遭到段祺瑞、張作霖的齊聲反對。也難怪，張作霖剛剛大勝，怎麼可能找幾個實力與自己相差如此之遠的人來和自己平起平坐。段祺瑞則向來就是一個不願意別人對自己發令的人，他的反對早在意料之中。張作霖提出可以組建一個臨時執政府作為新政府產生前的過渡政府，不設國務總理，而由臨時執政召集國務會議，他推段祺瑞為臨時執政。馮玉祥認為在目前與奉張矛盾尖銳的情況下，還是需要爭取段祺瑞的支持以解決長期以來沒得到解決的地盤問題，而且段對他表現得很誠懇，言詞中以“革命政府”相標榜，所以，馮就同意了張的提議。
15日，張作霖、馮玉祥、盧永祥、胡景翼、孫嶽聯名通電，公推段祺瑞為中華民國臨時執政。四天後，齊燮元、蕭耀南、孫傳芳等直係各督軍再次電請段祺瑞早日出山。在一致擁戴聲中，段祺瑞於21日發出通電，宣告就任臨時執政。
22日，段祺瑞乘專車入京。23日，攝政內閣總理黃郛將新刻的“中華民國臨時執政”大小兩枚印交給段，並通電宣告攝政內閣於24日辭職。24日上午10點，段祺瑞在鐵獅子胡同原陸軍部舊址舉行臨時執政就職典禮，宣誓就職。
這是段祺瑞一生中最後一次進入權力中心。不過，這次的進入與之前有本質的不同，因為他不是依靠自己的力量，當然就沒有自己的發言權。馮玉祥、張作霖推舉他都有利用他作為過渡的意思，他的老部下們絕大多數都對他的這次上台持否定意見，紛紛勸說他不要上當。尤其是自己的忠實部下徐樹錚，遠在上海，仍然多次來電勸他不要蹚這渾水。他們都認為，將來總有一天張作霖和馮玉祥必定打起來，到時候段祺瑞夾在中間難以做人。就算一時打不起來，他段祺瑞也不過是個傀儡，不會有真正的實權。奉係勢力現在是一手遮天，張作霖都沒有坐上這個位置，老段怎麼可能坐穩了。
但是，這些勸說已經完全不起作用了。段祺瑞不是不明白自己的處境，也不是不明白部將們說的都是實話，但是他們卻不明白，段祺瑞在天津下野，苦等了這麼長時間，不就是為了重返權力的寶座嗎？現在希望就在眼前，怎麼可能輕易放過呢？即使再凶險，他段祺瑞也願意冒險搏一回，也許老天保佑就讓我翻身了也未可知啊！在這樣的心態下，段祺瑞還是決定接受上天的安排，宣誓就職。
就職的當天，他就公布了《中華民國臨時政府製》。規定“臨時執政總攬軍民政務，統率海陸軍”；“臨時執政對於外國為中華民國之代表”；“臨時政府由國務員讚襄臨時執政處理國務”；“臨時執政命國務員分長外交、內務、財政、陸軍、海軍，司法、教育、農商、交通各部”；“臨時執政召集國務員開國務會議”。
根據以上規定，段祺瑞這個臨時執政的權力比總統還大，更別說總理了。現在他的權限相當於過去的總統加總理。一心想在政壇上有所作為的段祺瑞，第一次感到了權力是那麼的美好。
接著，段祺瑞迅速任命了政府組成人員，當然，他能想起來的基本還是以前那些臭名在外的安福分子。龔以湛、吳光新、李思浩、葉恭綽、梁鴻誌等又一次因為段祺瑞進入了權力架構的中央，自此，段祺瑞正式開始了人生中最後一段時期的執政生涯。
段祺瑞一生戎馬，兩袖清風。隻有權力才能讓他為之著迷，為此他可算是不屈不撓，今天算計這個，明天算計那個。他也曾幾次升起，幾次落下，沉沉浮浮之間，他卻一次比一次爬得高，終於在他60歲時，成為了真正的國家元首“臨時執政”。
段執政上班了，中國又有了一個號令天下的政府（形式上的），不過這跟段執政本人的個人生活倒是沒什麼關係。唯一的改變就是去執政府或從執政府回來的時候，在他沿途經過的這段馬路上，軍警布得滿滿的，三五步就是一個交通崗，要等他的汽車走過以後，才將崗警撤去，恢複交通，這點威風是他過去所沒有的。然而段祺瑞要的可不是一點表麵的威風，他迫切需要鞏固自己的地位。
所以，在對外政策上，他以“外崇國信”換取各列強對他的執政府的承認和支持，即執政府繼續承認帝國主義諸列強強加給中國人民的不平等條約，承認其在華的一切特權。他的這一表示遭到全國人民的唾罵，卻果然贏得了各列強的好感，1924年11月28日，“駐京各國大使、公使暨代辦晉謁”，以示對段祺瑞任臨時執政的祝賀。對內，段祺瑞把平衡各軍閥之間的勢力，協調他們的關係，放在當政的首要位置上。
軍閥矛盾與善後會議段祺瑞到京之時，馮玉祥也回到了北京，張作霖也在此時定居天津，直接控製了北京附近地盤。中國的局麵再次分化組合，矛盾依然存在，不過已經由直奉矛盾悄然幻化成了奉係與國民軍之間的矛盾。
從實力上說，國民軍遠遠落後於奉係，因此張作霖極為鄙視他，入關不久，奉係軍隊就直接收繳了王承斌部的槍械（此人與馮玉祥同時倒戈），這樣馮玉祥就知道自己想以華北作為地盤的願望徹底落空。南邊的直係勢力恨他出賣了吳佩孚，一直嚷嚷要打倒馮玉祥。而唯一同情他的廣東革命勢力又是遠水難救近火，馮玉祥感到了前所未有的孤立。
思前想後，此時的他不能與奉係正麵衝突，為了保存實力，最好的辦法隻有以退為進了。於是他通電下野，並向段祺瑞遞交了辭呈。同時，他知道吳佩孚是多麼痛恨自己，還特意給吳佩孚發了一通電報，安慰他不要失望。
然後，馮玉祥橫下心來，到北京附近的天台山休養去了。
段祺瑞可不希望馮玉祥這個時候離開，自己主政的唯一依靠就是奉係與國民軍同時存在，馮玉祥多少能牽製一下氣焰越來越囂張的張作霖。另外，北京附近的治安是靠國民軍維持的，自己的衛隊不過區區幾百人，斷然承擔不起這樣的責任。
張作霖看馮玉祥作出退讓姿態，為博取政治資本，他也於12月2日離京赴津，並在此後以響應“廢督裁兵”為由，通電自請解除東三省巡閱使之職。
張也是取“以退為進”之法，在他周圍，兵敗投奉的盧永祥無時無刻不想殺回老家，盡管段祺瑞不願再起戰端，竭力保持長江的現狀，而給了盧永祥一個安慰獎，督辦直隸軍務事宜，但盧永祥還是想報齊盧之戰的仇。奉軍內部也有自己的小九九，張作霖手下第一大將李景林也希望打長江之戰，好讓盧永祥回去，他自己就可以來坐直隸這塊地盤。最主要的，張作霖自己並不想偏安東三省一隅，他要把他的勢力發展到長江流域。段祺瑞心情矛盾地看著他執政後依然大亂著的政局，對軍閥們的各種貪欲也是心知肚明，但以他現在的力量是拿誰都沒有辦法。
12月10日，段祺瑞發出首份執政府政令，裁撤各省的巡閱使一職，張作霖因為自己請求解除東三省巡閱使，段祺瑞在政令中特別提出嘉獎，同時免去江蘇督軍的齊燮元職務，江蘇督軍一職隨即跟著裁撤，命令江蘇省長韓國鈞暫時兼任督辦江蘇軍務，盧永祥為蘇皖宣撫使，李景林督辦直隸軍務善後事宜。
這下又捅了馬蜂窩，被免職的齊燮元哪裏肯服，與直係孫傳芳聯絡，反對奉軍南下。孫傳芳在“齊盧之戰”中漁翁得利，輕而易舉獲得浙江和上海的地盤，但得意了沒幾天，奉軍勢力又不斷向東南伸展，他的地盤也受到威脅，於是他頻繁地與原閩、贛、蘇、鄂的直係舊部聯絡，準備聯合反奉。
段祺瑞不希望孫傳芳加入到齊燮元一方，令戰爭擴大，他一方麵致電孫傳芳，表明北京政令隻針對齊燮元一人，絕沒有侵害孫傳芳的意思，另一方麵又派吳光新南下做思想工作，同時協助盧永祥查辦齊燮元。
這一招數離間了齊燮元與孫傳芳，齊燮元既得不到孫的援助，被他派到徐州守江蘇北大門的部將陳調元又跟奉軍張宗昌密謀，讓開了一條通路，奉軍一路南下，齊燮元隻好帶著僅剩的殘部從南京逃到上海，在滬寧線上與盧永祥的部隊對峙。
1925年1月20日，安撫好孫傳芳的段祺瑞下令徹底清查齊燮元，剝奪了他的官位，抄沒全部私產充作江蘇省賑災經費。齊燮元勢單力孤，與盧永祥在蘇州、無錫打了幾天後隻身逃往日本。第二天，盧永祥陪著張宗昌抵達上海把齊軍全部繳械。至此，第二次齊盧戰爭結束，盧永祥終於報了一箭之仇。
張宗昌到了上海，孫傳芳一下子高度緊張起來，擔心他得了上海之後又惦記他的浙江，於是將部隊開到龍華，·與張宗昌互相對峙，新的衝突似乎又要一觸即發。段祺瑞這時候實在不想再節外生枝，以免破壞他寄予很大希望的善後會議。於是他派陸軍總長吳光新調解浙江軍閥與奉係軍閥之間的矛盾。在段祺瑞的努力下，雙方總算達成了暫時的和平協議，張宗昌也將部隊後退至徐州。
段祺瑞稍微鬆了一口氣，至少眼下還不會出麻煩，畢竟自己作為北洋元老，現在的身份又是臨時執政，說話還是有一定分量的。但他心裏明白，這不過是權宜之計，戰爭爆發很可能就在明天後天，誰知道呢！軍閥矛盾哪是他幾句話就能解決的，那是骨子裏的。唯一的希望，就是自己組織召開的善後會議了。
關於善後會議，段祺瑞的算盤是這樣的：既然自己在全盛時期都沒能實現“武力統一”的目標，現在更不可能了，但各軍閥之間是有矛盾和裂縫的，如果通過這個會議能均衡軍閥們之間的實力，協調他們的關係，將他們以自己為中心組織起來，形成一個北洋軍閥的團結的大家庭，那麼中國政局就仍在自己掌控之中。所以在他自己一手編擬的《善後會議條例》中，對參加會議的人員做出了嚴格清晰的規定，具體有四類人可以參加善後會議：
第一類是對國家有大功勞的人（這個就看他老段怎麼定義了，一切解釋權歸段祺瑞本人所有）。
第二類就是這次討伐曹錕賄選的戰爭中各軍的首腦，具體也就是他們幾個：段祺瑞、馮玉祥、張作霖、孫中山、盧永祥等（簡直就是量身定做）。
第三類就是各省以及蒙古西藏青海的最高長官。
第四類就是有特殊資曆、學術、經驗的，由臨時執政聘請或者派遣的人，不過總數有限，不能超過三十人。
看到了吧，段祺瑞骨子裏還是軍閥思想，完全將人民群眾排除在國家大事之外。軍閥們是高興了，但有一個人卻極為不滿，那就是孫中山。孫中山一直抱著“主權在民”的思想，認為國家大事應該由老百姓說了算，而不是少數幾個政客和軍閥，同時他對段祺瑞的另一項政策更是充滿憤怒，那就是“外崇國信”。
“外崇國信”的含義並不難理解，按段祺瑞的解釋，中國要對列強顯示作為一個大國的誠信，就應該承認前朝也就是清朝時期所簽訂的種種不平等條約，這就更令為廢除不平等條約、民族解放而奔走奮鬥一生的孫中山氣憤不已。
1924年12月4日，孫中山終於到達天津，受到了老百姓的熱烈歡迎，段祺瑞也派許世英代表他到天津歡迎，孫中山對段祺瑞的表麵熱情並不感興趣，對於許世英的種種作為也是難以接受，於是在許世英前來歡迎他時，他卻劈頭蓋臉給人家澆了一大盆冷水，還斥責他說：“我一生都在為了對內建立共和，對外廢除列強的不平等條約努力。你們在幹什麼？一個個隻想自己升官發財，害怕外國人。我們是不同道上的人，既然這樣，還來歡迎我做什麼？”攝於孫中山巨大的威望，許世英不敢頂嘴，隻好諾諾而去！
此時的孫中山其實已經身患重病，如果按照現代醫學的觀點，應該是肝癌晚期。每天病痛折磨，讓孫中山隻好暫時停止進京，在天津休養調整。同時他委托汪精衛向外界宣讀了一個書麵聲明：
首先，孫中山經過日本時曾經在日本朝野上下呼籲，中日兩國本是同文同種，應該互相幫助，日本應該盡快取消二十一條以及其他一些極不合理的優先權。
其次，孫中山本人現在身體患病，在天津休息，過兩天去北京。去北京的目的，不是為了我孫中山本人的官位和權力，而是為了促成召開合法的國民會議，還權於民。一旦時局穩定下來，老孫本人將辭去各種官職，立即離開政府去歐美遊曆，並且順便還上幾個西方強國遊說一下，爭取讓他們取消清政府及民國初期簽訂的不平等條約。
最後，孫中山特別提到了馮玉祥修改了清王室的優待條件，並且將溥儀驅逐出北京故宮的行為，他是讚同的（等於給馮玉祥站腳助威）。
孫中山因病延緩了進京，段祺瑞抓住這個機會，趁他還來不及反對，就讓外交部答複外國公使的照會，首先對外國承認他的段政府表示感謝，繼而再次重申了段政府的一貫主張，以前各國簽訂的一切不平等條約全部不變。
隨後他就公布了《善後會議條例》，但依然沒有老百姓代表。
此時孫中山認識到時局發展方向即將偏轉，帶著未見好轉的身體趕到北京參加善後會議，但幾次與段祺瑞爭辯，他的意見都不能得到采納，不僅如此，他的幾點主張諸如容納人民團體的代表、推行普選製等都遭到了軍閥們的反對。這促使他進一步認清了自己與軍閥們之間的本質矛盾是無法調和的，善後會議完全變質為軍閥、官僚、政客們的包辦婚姻，自己在這裏純屬多餘。
徹底絕望的孫中山命令所有國民黨員全部拒絕參加善後會議，段祺瑞與孫中山的關係從此破裂，兩人在各自的道路上漸行漸遠。
孫中山的退出對段祺瑞們來說，不過是個小插曲，有他沒他一個樣。
1925年2月1日，籌備多日的善後會議終於在北京開幕，段祺瑞到會祝賀，發表宣言，並且一開始就為會議定下了基調：一、建設方案；二、重訂憲法。
關於這個建設方案，段祺瑞有自己的理解，他將民國建立以來的種種進步與不足闡述了一番（當然，都是他自己的個人理解），肯定辛亥革命的意義，指出戰亂延續下去的危機，表達出希望軍閥停戰的意願。這些都是場麵話，倒也不用過多重複，但他單獨將製憲提了出來，作為最重要最迫切的事來抓，其實是有自己的小算盤的。
為什麼這麼說，就因為他自己現在的身份——臨時執政。這個臨時執政不過是馮玉祥、張作霖和一些軍閥們臨時做出的一個過渡性決定，本身沒有任何法律依據。首先他不是國會選舉出來的，也不是總統任命的，怎麼看都顯得名不正言不順，說起話來都底氣不足。大家一團和氣的時候，兄弟長兄弟短的，倒也沒人認真追究他的出身問題。可是一旦有一天哪個家夥發飆，拿這件事攻擊他，那他這個臨時執政還不是說倒就倒嗎。如果這個善後會議能製定出一部新憲法來，給他這個l臨時執政扶正，不管是叫總理也好，叫總統也罷，總之隻要合法，名正言順。
當然，我們也應該看到，段祺瑞作為一個政治家還是有自己的抱負的。
對於這次的善後會議，他可是抱了相當高的期望。於是在會議期間，他一口氣提出了25個議案，包括各省的稅收與財政問題，以及各省與中央政府之間稅收上繳比例的問題，還有他的裁軍方案，以及裁軍後多餘人員如何安置。
段祺瑞仍然想通過這種形式達到國家一統的目的，不希望中國再四分五裂、戰火連天，由中央政府有效行使管轄權。
然而，一個思想守舊、跟不上時代、看不到世界潮流和發展趨勢的政治家，是注定不會成功的。段祺瑞希望用軍閥製止軍閥達到和平的目的，本身就顯得過於天真。將國家權力集中於少數軍閥政客之手，又體現出了段祺瑞缺乏遠大的政治眼光。
事實上，他遭受的最大阻力就來自他所倚賴的全國最有實力的派係奉係。張作霖正努力把其勢力擴展到長江流域，故對收束軍隊裁撤兵員等議案非常反感，千方百計地阻攔其通過。至於財政各案，因為財權也是軍閥們的命脈，觸及到他們的切身利益，所以也不可能通過。因此，善後會議最後隻通過了一些無關緊要的條例而草草結束，段祺瑞想通過善後會議解決時局糾紛的期望算是徹底落空了。
孫中山一直在北京，他的病被診斷為肝癌，而且越來越重。1925年3月12日，一代偉人孫中山在北京與世長辭。消息傳來，正在出席國務會議的段祺瑞立刻宣布散會，派內務部次長王來代表到鐵獅子胡同孫先生行轅吊唁。
孫中山是這個時代最偉大的政治活動家之一，他的主張得到了包括社會各界群眾的強烈擁護其個人享有極高的威望。即使是他的對手，那些形形色色的軍閥們也對他肅然起敬。由他一手締造的中國國民黨更是將他視為本黨的一麵旗幟。
為了紀念這位百年來難得一見的偉人，國民黨人絕不打算草率。他們提出準備在中央公園社稷壇舉行全民公祭，並向政府提出了申請，但段祺瑞此時卻害怕北京的學生和社會團體會借機鬧事，因為中央公園距離他的執政府實在是太近了（就是今天的天安門西邊的中山公園），於是他提出要改在偏遠一點的天壇舉行，當下就遭到國民黨人的強烈反對，紛紛發表抗議。最衝動的要數於右任了，他得知原委後氣得跳了起來，：直接跑到了段祺瑞的執政府辦公室，指著段祺瑞的鼻子拍桌大罵。迫於社會的壓力，最後段祺瑞不得不同意國民黨人的要求，允許孫中山的遺體停靈中：央公園，並允許社會各界前往吊唁。
當然，政治紛爭是一回事，拋開他們的政見分歧，段祺瑞還是頗為敬重孫中山本人的。於是在公祭那天，段祺瑞也送來了挽聯：
共和告成，溯厥本源，首功自來推人世；革命而往，無問終始，大年不假問蒼天。
上聯是讚揚孫中山推翻帝製、創造共和的豐功偉績，下聯是頌揚孫中山對革命事業的堅毅與忠誠，惋惜他不能長壽。
自古英雄惜英雄，即使是對手也不例外！
醜聞與亮點——金佛朗案與關稅特別會議段祺瑞就任臨時執政後，因為軍閥的本性就是爭權奪利的，而依靠軍閥上台的段祺瑞無法左右他們，因此在政治上一直難有什麼作為。但為了將北京政權維持下去，也為了自己能在元首位置上待的時間更長一些，段祺瑞終於還是決定要出手幹出兩件事來。既然軍事上自己左右不了，那就避實擊虛，段祺瑞選擇的突破口是財政！
要解決民國時期的中央財政，有一件事是段祺瑞無論如何都繞不過去的，那就是拖延了很久也沒人敢辦的“金佛朗案”。
關於“金佛朗案”還得從“關稅會議”的來龍去脈說起。1855年，英、美、法三國駐滬領事組織了關稅管理委員會，這是帝國主義掠奪中國海關主權的開端。到了1858年，天津條約中對於關稅加以固定，由上海推到全國。
1901年辛醜條約後更是變本加厲，規定中國關稅及鹽稅作為賠款擔保，帝國主義公然派人為稅務司監督收稅，協定稅率為“值百抽五”，也就是5％的稅收比例。這一稅率不僅史無前例，而且是世界各國所沒有的，是帝國主義百年來強加在中國人民頭上的一個經濟枷鎖。1911年，英國人安格聯以雙重身份充任中國政府的總稅務司，以彙豐銀行為首的外國銀行團則成為中國國庫存納關稅的機關。
說得再明白點，中國的稅務是外國人在總管，所收的稅先經過外國人的手，抽走其中要賠償給各國的款項後，剩下的才能返回給中國政府。而且隻要是經過稅務機關征收上來的錢款，一律存在外國銀行裏麵，跟中國沒有絲毫關係。
俗話說，“吃人的嘴短，拿人的手軟”，依靠外國人的財政才能生存的中國政府，怎麼可能對人家硬得起來！這就不難解釋為什麼民國時期前前後後上台的所謂政治家們都不敢得罪外國人了！
1908年，中國準備對德參戰，提出以修改關稅率為加入協約國的條件之一，在上海召開了修改稅則會議。由於遭到日本的反對，因而無果而散。
1919年巴黎和會，中國又提出關稅自主，和會竟然推諉此問題不屬於和會範圍內。1922年，中國代表又在華盛頓會議上提出關稅自主問題。理由是戰敗國還沒有協定關稅特例，而中國本為戰勝國之一，更不應身受此史無前例的約束。由於中國堅持了上述正當理由，當時各國代表也無詞可駁。然而在九國公約成立之後，仍然規定：中國關稅值百抽五，在九國公約發生效力後，中國政府可召集各國前來參加關稅特別會議，一麵籌備裁厘，一麵在裁厘前加以收值百收二五附加稅為過渡辦法，這是以美國為首的帝國主義集團以敷衍的手段來保障協定關稅製度。