1月26日晚，馮國璋以南下巡閱軍隊為由，乘專車離開天津。殊不知段祺瑞已經斷了他的退路，倪嗣衝在蚌埠以保護安全為由截住了馮國璋，馮國璋隻好調頭回北京。在段祺瑞的強大壓力下，1月30日，馮國璋被迫再次下達了對西南的討伐令。這時在湖南前線，北洋軍連連取得勝利，馮國璋隻好通電辭職。在馮國璋辭職的第三天，即3月9日，內閣總理王士珍掛冠而走，避往天津。
既然馮國璋已無能為力，那麼何不讓他再做幾天總統？於是在段祺瑞的授意下，各省主戰派紛紛來電挽留馮國璋，同時要求段祺瑞出山。3月23日，段祺瑞出山就任內閣總理。這位下野四個月零幾天的北洋之虎終於壓倒了北洋之狗，再次榮登總理寶座，威加海內，勢力極盛。4月20日段祺瑞南下犒師，親臨漢口，規定總理車隊經過時，臨街商鋪、居民住宅一律關門閉窗。一家外國報紙說：“這是民國以來從未有過的事情”，比大清國的欽差要威風得多！
段祺瑞重新上台，馮國璋已無用處，於是決定“合法驅馮”。馮國璋的總統任期是10月10日屆滿，到時通過合法的手段把他選掉。最終，馮國璋讓位於徐世昌，回到直隸河間老家，從此不問政事。
其實，在馮國璋下台之前，段祺瑞已經辭職下野。這次辭職，逼迫他的不是別人，乃是小字輩吳佩孚。
吳佩孚是曹錕手下的一號大將，畢業於保定陸軍速成學堂，屬於段祺瑞的學生。吳佩孚此人多謀善斷，他勸曹錕在段祺瑞和馮國璋之間大耍兩麵手法，先是主戰，而後又倒戈一擊主和，使段祺瑞的整個部署全被打亂，雪上加霜，段祺瑞向日本秘密借款的事又被揭露出來，國內群情嘩然，西方列強紛紛出麵施壓。為廠擺脫窘境，段祺瑞再次以退為進，通電廠野。
段祺瑞辭了職，徐世昌當了總統，然而內閣全是段祺瑞的人，段祺瑞依然是一手遮天，把持著北京政府。
馮國璋死後，曹錕、吳佩孚成為直係領袖與段祺瑞對抗，尤其是吳佩孚，宛然雛鳳清於老鳳聲的姿態，不甘段祺瑞把持中央政權，與張作霖秘密聯絡，決定反皖倒段。
1920年7月，醞釀已久的直皖戰爭爆發了。戰爭開始前，段祺瑞充滿信心，他認為張作霖向來與曹錕不和，也曾當麵保證嚴守中立，這樣，自己已無後患之憂。剩下直、皖單獨較量，皖軍無論在數量、質量上都高出一籌，段祺瑞白以為勝券在握。
然而事情大出段祺瑞意料，首先，張作霖根本不是嚴守中立；其次，前線皖軍雖然初戰告捷，但不久西路皖軍全線潰敗，段祺瑞失敗已成定局。
7月19日，段公館一片愁雲，左右隨從力勸段祺瑞離開北京，段祺瑞暴跳如雷，喊道：“要走你們走！我不走，我倒要看看他們能把我怎麼樣！”
曹錕、吳佩孚自然不敢怎麼樣，曹錕和張作霖還派人去段府慰問，吳佩孚也親自登門，口口聲聲以“老帥”相稱。
1921年4月14日，張作霖揮師入關，第一次直奉戰爭爆發，結果奉軍大敗，連張學良也掛了彩，不得不退到關外。
吳佩孚在戰勝了皖係和奉係後，控製了北京政權，也重彈“武力統一”的老調，從而引起了西南軍閥的不滿。這樣，直係成為眾矢之的，1921年，為了打倒直係軍閥，孫中山聯絡段祺瑞、張作霖形成“反直三角同盟”。
曹錕和吳佩孚也意識到危機，決定拉攏段祺瑞，瓦解三角同盟。他們不僅撤銷了對徐樹錚及安福係要人的通緝令，而且直接派人拜謁段祺瑞，表示負荊請罪。1924年3月13日，段祺瑞六十壽辰，在曹餛、吳佩孚的鼓動下，直係將領不顧段祺瑞公開拒絕祝壽，蜂擁而至，獻禮祝賀。
1924年9月4日，張作霖調集東三省的所有兵力20餘萬，分三路大軍入關，第二次直奉戰爭爆發。這次戰爭在北洋軍的內戰史上是空前的，雙方出動的兵力約達50餘萬。戰鬥一開始，直係便處於劣勢，在這緊要關頭，直係第三軍指揮馮玉祥突然倒戈，發動北京政變，囚禁賄選總統曹錕，趕清廢帝溥儀出紫禁城，給吳佩孚以致命打擊。