直奉第一次合作，便矛盾重重，關鍵是這兩個北方最大的武裝集團彼此心裏誰也看不起誰。曹錕壓根看不起張作霖的見好東西就要搶去的土匪性格，張作霖也看不起曹錕這個賣布出生的種種見風使舵行徑。既然倆人都不服對方，又都想多撈好處擴大自己的勢力，矛盾自然會越來越大。
1921年，因為直奉兩係推上總理寶座的梁士詒沒有兌現答應給直係的500萬軍餉，曹錕命令坐鎮洛陽的吳佩孚發起倒閣運動，試圖除掉梁士詒。這時，得了梁士詒好處的張作霖出麵為梁士詒說話。於是，關於“倒梁”還是“保梁”一事，很快激化了張作霖與吳佩孚的矛盾。
張作霖認為吳佩孚官小又愛出風頭，根本不把他放在眼裏，態度十分驕橫；而吳佩孚一直就看不起張作霖的土匪習氣，也不把張作霖當回事。倆人如此對峙，矛盾在激化中升級，彼此很快就決定：
動用武力，幹掉對方！
到1922年元月，張作霖為了消滅吳佩孚，回過頭來聯絡皖係殘餘勢力，又派人南下聯絡孫中山的革命勢力，借此結成“反直三角同盟”，希望能夠一舉擊潰吳佩孚。
曹錕此時本不想冒險開戰，但吳佩孚堅持，一定要與奉軍決一死戰，拔掉這顆不斷搗亂的釘子。曹錕見吳佩孚態度堅決，便改變態度，堅決支持吳佩孚。
1922年4月29日，直奉戰爭第一次爆發。張作霖率領4個師9個旅，共計12萬人，由東、西兩路沿津浦、京漢鐵路推進，向直係軍隊發起進攻。這場戰爭打到第三日，直係開始反攻，到第六日，奉係的軍隊全線潰退，張作霖狼狽地退到關外。
從1920年直皖戰爭至今，短短的兩年時間裏，曹錕的直係連連擊敗皖係和奉係兩個強敵，一時間聲威大震，“直係即中央”，成了不爭的事實。手握勝利之師的曹錕，這時的政治目的自然不再是副總統，而是要直接去摘取大總統的桂冠。
就是這樣的一個目標，這時對他來說也已非常容易，動亂時代，兵權在手，主動權當然也就握在他自己手上。隻要趕走徐世昌，大總統之位坐上去就是了。而徐世昌除了有些聲望，手上沒一挺機槍，要趕走他，當然容易。
於是乎，直係上下，包括他曹氏家族和親戚，紛紛勸說，趁此良機，讓曹氏登上總統大位。曹錕本人，對副總統一職曾朝思夢想了多年，如今有做大總統的機會，自然是躍躍欲試。可就在這時候，吳佩孚跳出來反對。
“這種事，還是名正言順的好。”
“怎麼才是名正言順？”
“按《中華民國臨時約法》來辦，如其不然，南方又要鬧事。這一路過來，一次次護法運動，沒一個總統當得順當。”
曹錕對吳佩孚的建議向來是言聽計從，這回雖然想當總統想得都要瘋了，但細想吳佩孚的話，感到確實又有理，於是再問：“按你的意思，眼下該怎麼辦？”
“根據《中華民國臨時約法》，大總統無權解散國會，原本黎元洪之所以解散國會，是被迫的。而後1918年8月的安福國會非法，由它選出的大總統徐世昌也是非法。情況如此，當今之計，最好是先恢複國會，按照約法讓徐世昌下台，讓黎元洪複職，做滿他也就剩一年多時間的總統任期，作一過渡，然後大帥就可以利用新國會來選自己做總統，就是名正言順了。”
聽著還要等一年的時間，曹錕有些猶豫，但想到南方一次次的護法運動，確實讓人不得安寧，最終還是接受了吳佩孚的建議。
於是，曹錕出麵牽頭聯絡直隸各省督軍，於1922年5月19日這天聯名通電，要求恢複舊國會。5天以後，“第一屆國會繼續開會籌備處”在天津成立。到6月2日，大總統徐世昌被迫辭職。大總統黎元洪緊接著於6月11日在中南海懷仁堂舉行複職典禮。
黎元洪複任總統後，對曹錕心懷感激，也很想拉攏一下他這位軍界實力派人物，多次電請曹錕進京。大總統不能由自己來做，曹錕心中不快，每次都托病不去。倒是吳佩孚想在新政府中有所作為，便擅自出頭露麵，獨自去北京，慶賀黎元洪複職。曹錕知道以後，對吳佩孚非常不滿。
此時的吳佩孚，雖為直魯豫巡閱副使，卻依仗與曹錕的鐵哥兒關係，留在保定曹錕的辦公署裏發號施令，還不斷地向北京政府的內閣班子推薦自己認可的人才。久而久之，一些人來到曹錕的公署，卻隻找吳佩孚，而不去問候曹錕。
按照當時北洋軍一個不成文的規定，官至督軍可以稱“帥”，督軍以上可稱“大帥”。老資格一輩原隻有張勳、曹錕、張作霖稱“大帥”，吳佩孚後來居上，做了三省巡閱副使，當然也可以稱作“大帥”了。不知是誰開始這麼稱呼，大家馬上就都這麼稱呼了。可是，曹錕也就是大帥，豈不有些分辨不清，於是由吳佩孚引導，將曹錕改稱為“老帥”。