吳佩孚失敗，對於這個聯直反馮戰略中的盟友，張作霖采取的不是同情而是落井下石的做法。張作霖其實是個蠻講情義的人，但這次在吳佩孚兵敗之時卻對其下黑手，主要原因有兩個，一個是他與吳佩孚本來就是敵非友，隻是利益的關係暫時結盟，吳佩孚麵臨失敗，其剩下的河南等地盤很有可能被北伐軍攻占，因此必須先下手為強；第二個原因是張作霖一直想執掌天下，此刻無限接近，因此必須盡快取而代之。1926年9月7日，在張作霖軍事實力的壓製下，杜錫珪內閣致電張作霖歡迎“入京主政”，由吳佩孚任命的北京衛戍總司令王懷慶也同時下台。失去了王懷慶武力的保護，杜內閣隨後也僅僅維持了十來天就被迫辭職。10月1日，由外交總長顧維鈞兼代內閣總理。顧維鈞是個資深外交家，也是一個比較成熟的政治家，他因為吳佩孚的賞識而進入內閣，又因為跟張學良結拜為兄弟而受到奉係支持。因此顧維鈞在這時出任國務總理是上天安排給張作霖最恰當的人選，一方麵此人外交能力嫻熟，可以熟練的與各國打交道，爭取外國支持；另一方麵吳佩孚也能接受，可以避免直奉過早破裂。
在順利解決北京政權之後，張作霖下一步需要解決的就是吳佩孚直係所占據的地盤了。張作霖先通過談判的方式，要求吳佩孚交還保定、大名兩地，腹背受敵的吳佩孚隻好同意於雙十節前交還。其實所謂交還也隻是好聽的說辭，保定、大名兩地論淵源本來就是直係的老巢，隻不過後來被奉係李景林占了，這一次直係又占了回來，現在奉係大軍壓境，吳佩孚不得不違心的表示要“交還”了。
1926年10月8日，在北伐的國民革命軍第四軍、第八軍和第十五軍的長期圍困下，孤城武昌第3師師長吳俊卿率部投降，10月10日，在吳俊卿接應下武昌失陷，吳佩孚的守城司令、第8師師長劉玉春和湖北督理兼中央第25師師長陳嘉謨被擒，主力部隊2萬餘人全數被殲。
吳佩孚在湖北的失敗使其失去了後方根基，在與張作霖的抗衡中已無實力，想跟張作霖合作又沒有多少利用價值。因此，張作霖對吳佩孚的態度急轉直下。1927年2月8日，張作霖以援鄂假道河南為名，分兩路進攻河南，一路由直魯聯軍副司令褚玉璞進攻開封，另一路由張學良、韓麟春以援鄂軍總副司令為名進攻鄭州。奉軍大舉進入河南，大勢已去的吳佩孚各部人心已散，根本未進行認真抵抗就紛紛投降。2月6日吳佩孚得力幹將寇英傑即以送母赴津為名脫離直係，張作霖任命其為安國軍第十一方麵軍軍團長；2月14日齊燮元通電自己解除討賊軍副司令職務，離開鄭州前往天津；2月16日，河南軍務幫辦米振標投降奉軍，張作霖任命其為安國軍第十八軍軍長兼毅軍總司令，原依附吳佩孚的劉鎮華也轉而投向了奉軍，被任命為安國軍陝甘總司令。就這樣，在南方經過慘烈戰鬥付出重大代價而最終被國民革命軍北伐打敗的吳佩孚，到了北方沒有經過一場像樣的戰鬥就被張作霖瓦解了。要說張作霖還真是吳佩孚的克星，吳的兩次慘敗都拜張作霖所賜，第一次還能死灰複燃，而第二次雖經多方努力，終至於無力回天。就這樣，這位跟張作霖鬥了近十年的秀才將軍吳佩孚就此煙消雲散，從此徹底淡出了曆史舞台。