在吳佩孚處於險境之際，段祺瑞以第三師老師長身份送了一封信紿吳佩孚，勸他“速離去，否則被擒耳”。當時有人勸吳佩孚避往租界，以引起外國幹涉。段祺瑞說：“你是中國最優秀的軍人，為什麼要惹出同際問題呢？我看你先休息幾天吧！”吳佩孚聽了連連說道：“是，老帥，我遵命。”隨後由塘沽乘船逃走。段祺瑞的部下幸災樂禍地說：“老頭兒眼看吳小鬼掉在井裏頭了，小辮提一提，指給他一條明路。”
直係大敗後，段祺瑞出山的時機又到了。11月10日，馮玉祥、張作霖、段祺瑞在天津段公館召開了著名的天津會議，決定推舉段祺瑞為中華民國總執政，該職集總統、總理職務於一身。
1924年11月22日，段祺瑞在衛隊的保護下抵達北京，24日，他在鐵獅子胡同陸軍部宣誓就任中華民國臨時總執政。這樣，段祺瑞在任國務總理三上三下之後，又一次成為北京政府的最高領導者，這也是他一生中最顯赫的職位！
執政府建立後，張作霖、馮玉祥準備繼續南下，掃清直係勢力。但段祺瑞堅決反對，他看得很清楚，張、馮二人想借掃清直係勢力之名，搶奪地盤，擴大自己的勢力，於是說：“窮寇莫追，不如就此罷兵。”張、馮就也就無可奈何，收起了南下的打算。
張作霖提出召開“六巨頭”會議來進行權力的再分配。所謂“六巨頭”指孫中山、段祺瑞、張作霖、馮玉祥、盧永祥、唐繼堯。段祺瑞則主張召開一次全國性的善後會議，參加人員隻限於：有大功勞於國家者；討伐賄選及製止內亂的各軍領袖：各省區及蒙、藏、青海軍民長官；有特殊之學識、資望、經驗者，由執政聘請或委派。
這時，孫中山應馮玉祥、段祺瑞之邀已轉道日本抵達天津。孫中山主張召開國民大會解決中國問題，認為善後會議隻是一個代表軍閥官僚利益的會議。
1925年1月30日，在孫中山的主持下，國民黨正式做出了不參加善後會議的決定。1月31日，孫中山帶病入京。在京期間，孫中山與李大釗等積極聯絡，發起召開了國民會議促進會全國代表大會，共同抵製善後會議。不幸的是，3月12日，孫中山溘然長逝。
噩耗傳來，舉國悲痛，北京政府也明令舉行國葬。段祺瑞手下也多次勸段祺瑞出殯之日務必親往哀悼，以緩解國民黨方麵的感情，段祺瑞表示要親自到場進行主祭。誰知臨到那一天，段祺瑞卻以腳腫為由改變了主意，隻是派代表前往。當時北京一家報紙曾諷刺說：“難道偌大的北京城，就找不到一雙合適的靴子嗎？”實際情況是這樣的：安福係在段祺瑞麵前撒謊說天安門前有可疑人物，欲對段祺瑞不利，段祺瑞於是臨時改變了主意。
這時的段祺瑞如同坐在火山口上，中國人民反帝反封建反軍閥的運動已進入高潮，這座火山隨時隨刻都可能爆發。
1926年初，馮玉祥和張作霖之間失和，又發生戰爭。3月初，張宗昌部在海軍的配合下，從大沽口登陸，進逼天津。國民軍鹿鍾麟、孫嶽親赴前線督戰，好不容易奪回失地。為了防止敵軍從海上卷土重來，國民軍封鎖了大沽口，嚴禁任何船隻出入，日本驅逐艦卻公然向炮台守軍開炮，國民軍被迫還擊，雙方都有傷亡。事件發生後，簽訂《辛醜條約》的八國公使居然聯合向北京政府發出最後通牒。
帝國主義的武裝幹涉和最後通牒再次激怒了中國人民。自3月13日起，北京又爆發了大規模的學潮。
3月18日下午，北京大學、高等師範學堂等十幾所高等、中專學校學生，以及一部分工人群眾，共約兩千餘人，在天安門前舉行抗議集會。會後沿著東長安街、東單牌樓、米市大街、東四牌樓，然後進入鐵獅子胡同門口，在執政府門前廣場列隊請願，市民也趕來支持學生們的愛國行動。
執政府的衛隊如臨大敵，全副武裝的士兵一層一層地圍住大門。學生代表要求見執政段祺瑞，衛兵回答段祺瑞生病了，不在這裏。學生代表又要求國務總理賈德耀接見，也被拒絕。正當群情激奮之際，執政府門樓的窗戶裏突然響起了幾聲清脆的槍聲，示威群眾還沒弄清怎麼回事，隻見前排執木棍的士兵忽然向兩邊閃開，後排持槍士兵蜂擁而上，頓時槍聲大作。
這次大慘案造成了46人死亡，150餘人受傷。雖然到底是誰下令開槍至今仍不為所知，或許永遠是個謎，但執政府的罪責難逃，段祺瑞的罪責難逃！這一天，1926年3月18日，被魯迅稱為“民國以來最黑暗的一天”。