按照雙方的戰鬥力比較，吳佩孚練兵較嚴格，士兵戰鬥力強，而且吳本人善於戰場指揮。但奉軍武器更先進，裝備更完善，尤其是飛機助陣，時不時飛到作戰區域上空猛扔炸彈，吳佩孚的軍隊哪見過這陣勢，完全不知道怎麼應付，一下子亂了陣腳。雙方實力比較接近，所以如果繼續較量下去，最終誰勝誰負還難以預料。就在這最為關鍵的時候，吳佩孚聽到了一個消息。
這個消息他無法接受，更不願意相信。但事實告訴他，那是千真萬確的：馮玉祥兵變了！
馮玉祥為什麼兵變？起因並不複雜，還是因為吳佩孚。吳佩孚向來看不慣馮玉祥的作風，因為他似乎處處站在道德高地，行事很像南方的革命軍，這讓吳佩孚對他不得不提防。第一次直奉戰爭後，馮玉祥因為軍功獲得了河南督軍的位置，吳佩孚就老大不樂意，處處找機會排擠。而馮玉祥又恰恰是一個不甘心俯首聽命的角色，當然對吳佩孚的排擠極為不滿。
有一次，逼急了的馮玉祥跑去找曹錕訴苦，說是吳佩孚要繳他的械。曹錕也愛惜這員為自己打天下的大將，但對吳佩孚又沒什麼辦法，隻好安慰他說：不會的，吳佩孚怎麼會這麼做呢。你們要是實在不和，我給你另外想個辦法吧！後來不久他就任命馮玉祥為陸軍檢閱使，吩咐他帶兵駐紮北京南苑。這就等於將馮玉祥晾了起來，河南的位置也讓了出去。由此馮玉祥對曹錕也開始若即若離。
從此以後，馮玉祥已經徹底不相信吳佩孚和曹錕，為了保住自己的地位，他開始和段祺瑞秘密聯絡，等待時機。
1924年10月，馮玉祥看到吳佩孚連連受挫，軍心動搖，便命國民軍的先頭部隊以每天200多裏的速度向北京進發。為保證行軍速度，馮玉祥讓先頭部隊把帳篷、炊具等物沿途留下不動，以便後續部隊到達時縮短吃飯、休息的時間。就這樣一路急行軍，馮軍於lO月21日晚悄悄地進入了北京城。
率先入城的馮軍鹿鍾麟部切斷電報、電話等通信聯絡，包圍總統府，捉住了曹錕。23日早晨，馮玉祥占領了整個北京，這就是“北京政變”。
第二天下午，馮玉祥、胡景翼、孫嶽及主要將領和一些有關的政客在馮玉祥的司令部開會，決定電請孫中山北上主持大計，同時還決定請段祺瑞就任國民軍大元帥，來京處理一切事務。
馮玉祥的北京政變就好比後院放了把火，令前線直軍軍心大亂，直奉戰爭形勢陡轉。吳佩孚在得知馮倒戈的消息後，倉促之間把山海關戰事交給張福來負責，自己率隊從海道回天津救援，他曾密令豫、鄂、蘇、浙等省火速抽調軍隊北上相助，但各省多發電遙為聲援，援軍卻未到。奉軍得灤州後就切斷了直軍內外的聯係，直軍在山海關完全失敗。
馮玉祥、胡景翼、孫嶽三軍乘勢進攻，孤立無援的吳佩孚隻好於11月3日率部分幕僚衛士乘船到大沽口，渡海南下。但他並不甘心失敗，在離開天津前，他在天津東站給段祺瑞打電話，說出了自己的打算：將軍隊開進天津各國租界，就能引起外國插手幹涉，然後借局麵混亂之際火中取栗。
段祺瑞回答說： “你是最優秀的軍人，為什麼要惹出國際問題呢？我看你先休息幾天吧！”
吳佩孚聽了之後連稱： “老師，我遵命。”當即乘車回塘沽轉船逃走。臨行前還將無法攜帶的彈藥輜重通通加以封條，上書“移交段督辦查收字樣”。
對於吳佩孚，段祺瑞的感情是複雜的，平心而論，他是很欣賞吳佩孚的才華的，大有英雄相惜之感，．但他們各屬不同派係，矛盾無法調和。不趕走吳佩孚，直係勢力將控製北京政局，他老段自然難有出頭之日，但直係軍隊既然已經瓦解，對吳佩孚本人就沒有追殺到底的必要了，而且皖係勢力還未恢複，他還希望通過保留直係的部分實力而同北方的奉係、國民軍形成鼎足，使任何一派都不得為所欲為。於是他通知蘆台奉軍暫緩前進，給吳佩孚南逃爭取時間。
11月5日，曹錕下停戰令和罪已令，移居團城。段上台後，對曹錕也加以了保護，曹於1926年4月10日獲得自由。此後，曹亦為東山再起努力過，他曾通電直係諸將擁其複位，但失敗了，吳佩孚就特別不讚成擁曹複位。後來，曹錕輾轉河南、山東等地，最後到天津做了寓公。由一個賣布小販到以賄選爬上北洋政府“大總統”寶座，曹錕的一生也是頗耐人尋味的。“七七事變”後，日偽漢奸以高官厚祿相許，要他出來做傀儡，曹錕不為所動。1938年5月17日，曹在天津病死，終年76歲。