江浙戰爭爆發，雖屬局部，卻給張作霖找到了進兵北京的口實。直係既然在“和平”中向皖係率先發難，他當然也可以不管三七二十一向直係動手。在通電討伐直係的同時，張作霖給曹錕發去了挑戰書，緊接著自任討伐總司令，親率22萬奉軍，殺氣騰騰地湧進山海關。
第二次直奉戰爭爆發，使做了總統的曹錕反而有些驚慌。他的第一個動作，便是電召洛陽的吳佩孚回京，指揮應戰事宜。7月17日，吳佩孚匆匆趕回北京，曹錕拉著他的手說：“兄弟，這一次我那親家氣勢洶洶，一切就拜托你了，萬萬不可大意。”
吳佩孚微微一笑，隻點了點頭，並不說什麼，回去之後，立刻組建了“討逆軍”，自任總司令。吳佩孚命令，直軍兵分三路，向山海關前線撲去，迎戰奉軍。在戰前的記者招待會上，吳佩孚信心十足地說：“奉軍22萬，我出兵20萬，隻需兩月，一定可以打到張作霖的老巢奉天。”
事實上，單從軍事實力和指揮員的能力來說，這場戰爭的勝利者很可能就是直係。但是，由於此時直係內部不可調的矛盾，直接影響了他們奪取這次戰爭的勝利。這其間，主要就是吳佩孚與馮玉祥之間的矛盾。
在第一次直奉戰爭時，馮玉祥因作戰有功，為曹錕極力推薦坐上了河南督軍的寶座，可他一入開封，就活埋了趙倜手下的師長寶德全。
寶德全本是河南督軍暫編河南陸軍第二師師長，第一次直奉戰爭時趙倜聯奉反直，寶德全與馮玉祥戰於鄭州。奉軍戰敗後，寶德全已暗中投靠了吳佩孚，並受吳佩孚之命解散趙傑的第一師，被吳佩孚保舉為河南軍務幫辦。馮玉祥進開封時，寶德全到車站迎接。可就在第二天，馮玉祥將寶德全秘密活埋，將他的第2師全部繳械解散。
為此，吳佩孚撤了馮玉祥的河南督軍一職。倆人的梁子，到此算是結上了。而吳佩孚對馮玉祥之所以不待見的深層原因，還是因為發現馮玉祥與孫中山走得太近。
早在1920年馮玉祥駐湖南諶家磯時，通過徐謙、鈕惕生的關係，孫中山就開始對馮玉祥產生影響。徐謙和鈕惕生與馮玉祥是舊相識，他們都信奉基督教，孫中山便托二人帶著他的親筆信去見馮玉祥，勸馮玉祥和孫中山一道為實現共和而努力。馮玉祥親眼目睹大清的腐敗，感受到北方大受清廷遺毒很深，既誤國又害民，相信孫中山的方向會給中國民眾帶來福祉，於是派出秘書任佑民，到廣州去專程拜訪孫中山，表示了自己願意聽從孫中山召喚的決心。
當時吳佩孚的三路討逆大軍，東由吳佩孚手下的大將彭壽莘、董政國、王維城統領，為直軍主力，任務是殺出山海關。中路由王懷慶部統領，是三路中最弱一環。西路由馮玉祥率手下的張之江、李鳴鍾、鹿鍾麟等擔當，殺出古北口。由於馮玉祥與吳佩孚的矛盾，馮玉祥在戰前就與張作霖暗通聲氣，準備瞅準機會謀取自己最大的利益。
當前線雙方交戰激烈時，馮玉祥卻在懷柔按兵不動，坐觀成敗。吳佩孚發現西路進展緩慢，電令馮玉祥：火速前進，從側麵牽製奉軍，減輕東路戰場壓力！
馮玉祥隻對電令瞅一眼就扔到一邊，反而更加放慢了前進的步伐。當他再次收到吳佩孚的參謀長來電，告之前線危急、火速進兵時，他相信此時直軍已露敗局，隻要自己迅速再去後院放一把火，直係必敗無疑。
於是，就在再次收到吳佩孚的參謀長來電的當天，1924年10月23日傍晚，馮玉祥果斷下達命令：全軍撤退，回師北京！
馮玉祥率部連夜趕回北京城下，他的手下鹿鍾麟與孫嶽裏應外合，打開城門，進入京城，士兵們一律佩戴藍布白字的臂章，上麵寫著：“誓死救國，不擾民，真愛民”。政變軍隊以迅雷不及掩耳的速度，兵不刃血，很快控製各重要路口，戒嚴斷絕交通，占領各部、署衙門。
1924年10月23日清晨，曹錕從酣睡中醒來，喚衛兵到跟前時，才發覺已經換了人，仔細一問，知道大事不妙，總統府已被馮玉祥的軍隊包圍，自己電話線也已經被切斷了。曹錕皺緊眉頭，在感慨不已中過起了幽禁的生活。