後來，他任北洋軍閥的陝西督軍，屬於直係，在直係擊敗奉係的第一次直係戰爭中立下大功。
不過，他卻於1924年第二次直奉大戰期間發動北京政變，推翻直係軍閥控製的北京政府，所部改稱為國民軍，1926年在直奉聯軍進攻下通電下野。
後來，馮玉祥赴蘇聯考察，同年5月加入中國國民黨，在國民政府北伐之後，他又起兵響應，在五原誓師，任國民革命軍第二集團軍司令，參加了北伐戰爭，對北洋軍閥反戈一擊。
後來，馮玉祥的西北軍逐漸控製了整個西北地區，蔣委員長為了團結他，與他結拜為兄弟，但在中原大戰中，這兩個兄弟卻刀兵相見，馮玉祥聯合閻錫山發動了反蔣戰爭，最後兵敗，從此失去了兵權，被老部下韓複榘請去，隱居於泰山。
隨後馮玉祥又於33年在察哈爾組織民眾抗日同盟軍，任總司令，但最終失敗。
1935年，馮玉祥任國民政府軍事委員會副委員長。可以說，馮玉祥是一個很複雜的人物，即有舊軍閥的習氣，又有愛國的一麵，但總的來說，這個人還不失一個正直，愛國的人。
安徽是馮玉祥的原籍所在地，所以，馮玉祥對安徽有著一種特殊的感情，當聽到安徽光複後，他欣喜若狂，對李學坤也很是佩服，甚至有去安徽，見一見這位抗日名將的衝動。
不過，馮玉祥還是久經戰陣的老將，他清楚的知道日本人的強大，在東北，兩萬關東軍橫掃東三省，在淞滬戰場上，麵對著日本人的飛機大炮，成千上萬的中國士兵死於戰火，在中條山，日軍隻損失了三千人，就消滅了八萬精銳的中國軍隊，在馬當，在廣州……
對日本人，中國軍隊大多以失敗而告終，現在，李學坤隻是動動嘴皮，以幾個軍的兵力，就想奪回華中，消滅十幾萬日軍，這簡直是不可能的，最起碼在馮玉祥看來，這無疑是癡人說夢。
“日軍的戰鬥力大家都看到了，日軍的一個師團，可以打我們六個軍，而華中戰場，據情報統計，日軍現在共有九十九個師團，其中華中戰場有十四個師團，包括第3，13，27，34，39，116，47，58，60，61，64，65，68，70師團，這十四個師團的兵力加起來，有三十多萬人，也就是說，我們最少需要一百萬人以上，才能與日軍打個平手，而事實也正是如此，在華中戰場，我軍屯積了一百多萬人，這才勉強與日軍打個平手，想要一舉消滅這些日軍，又談何容易？”馮玉祥嗡聲嗡氣的說道。
馮玉祥的話說完之後，坐了下來，抿了口茶水，半眯著眼睛，不再說話。
而軍委會的人卻也議論紛紛，馮玉祥的話說出了一部分人的心聲，抗戰打了七年，在安慶戰役之前，一次性殲敵最多的台兒莊大捷，真正殲滅日軍也不過一萬多人，想要一口氣吃掉日軍二十萬人，這胃口太大了些，中國人真的沒有這個實力。
“我同意馮長官的看法，這仗，打不得。”劉峙說道。
劉峙，字經扶，江西吉安人。畢業於保定陸軍軍官學校，國民革命軍陸軍二級上將，曆任黃埔軍校教官，河南省政府主席，參與北伐、中原大戰等多場戰事，甚為得到蔣介石賞識。民國江西五上將之一，素有北伐戰爭中的“福將”、中原大戰中的“常勝將軍”、抗日戰爭中的“長腿將軍”之稱。
在北伐戰爭與中原大戰中，劉峙戰功卓著，深得蔣委員長的信任，1935年4月，劉峙升為二級陸軍上將，還兼河南省政府主席。其時四十有三，一時風光，無人出其右。
當時人們把蔣委員長、何應欽下麵的中央軍五個二級上將並稱為五虎（劉峙、顧祝同、蔣鼎文、陳誠、衛立煌）劉為五虎之首。國民黨軍界上層均對劉峙的"福星高照"、官運亨通表示羨慕，都譽他為"福將"。不過中抗日戰爭中，劉峙的表現卻不盡如人意。在平漢路戰役被日軍打的一潰千裏，被譏笑為長腿將軍。
劉峙此人，凡事容忍，倒是很得人心，這與他的經曆是分不開的，1907年，他決定投筆從戎，考入湖南陸軍小學第三期，當時陸小在瀘溪隻招兩個人，因是外鄉人，在小學中，備受同學的嘲弄和欺淩。
劉峙有一套處世哲學，忍耐為上。他認為，為人渾厚容物，自有好處。古往今來，能成大事者莫不有一種渾容氣度，為了自勉，取其宅號為"渾容軒"。
正因為如此，劉峙才能扶雲直上，官運享通。
此時，劉峙明確表態，支持馮玉祥的意見，讓會議的氣氛有些緊張起來。
一些軍政大員紛紛表態，支持馮玉祥的意見。
這時，蔣委員長又將目光投入了白長官，白長官是軍事奇才，中國真正的軍事家，雖說他一直與蔣委員長作對，但是，蔣委員長對他卻是不記前嫌的，北伐中，讓年青的白長官做了國民革命軍副總參謀長，代行參謀長職權，後來，又任桂林兼任桂林行營主任，負責第三、四、七、九戰區的作戰，管理半壁江山。