此戰後，幾乎丟光了老本的馮玉祥隱居山東泰山。
馮玉祥是個基督徒，在馮軍中嚴禁吃喝嫖賭，嚴禁穿綢緞，甚至嚴禁吸食香煙，馮玉祥自己也嚴於律己，從來不用煙酒待人。馮玉祥對不遵守時間的人深惡痛絕。1927年，因為汪精衛不守會議時間，開會經常缺席、遲到，馮玉祥一怒之下，編成一副對聯送給了他：“一桌子點心，半桌子水果，哪知民間疾苦；兩點鍾開會，四點鍾到齊，豈是革命精神。”
作為基督徒的馮玉祥，在私生活上非常檢點，如其他同時期的很多北洋精英一樣都具有較高的個人修為。1923年，馮玉祥的夫人因病去世。很多姑娘四處托人介紹。馮打算通過麵試選擇配偶。麵試時他均詢問對方：為什麼和我結婚？回答多是“你的官大”“你是英雄，我崇拜你”。其中一位叫李德全的姑娘答道：“上帝怕你辦壞事，派我來監督你！”信上帝的馮玉祥立即對她刮目相看，不久便娶了她。
1933年5月26日，馮玉祥與吉鴻昌、方振武、佟麟閣在察哈爾張家口建立察哈爾民眾抗日同盟軍，任總司令。得到全國各界愛國人士與團體的擁護和聲援，同盟軍迅速發展到8萬人左右。6月下旬起，抗日同盟軍連戰皆捷，先後攻克康保等三城，並與日軍血戰五晝夜後收複察哈爾東北重鎮多倫，震動中外。
七七事變前夕，馮玉祥在南京積極從事抗日救國活動，擴充自己的軍事實力，隨時準備為國效力。1937年7月1日，他甚至立下遺囑，其內容為：（一）非抗日不能救國；（二）要抗日須得民心軍心；（三）為抗日須找專家；（四）貧苦大眾是國家的根基；（五）所得稅遺產稅必收，以速供國防用。
1948年9月，赴美國考察的馮玉祥起程回國參加新政治協商會議，不幸因輪船起火而遇難，享年66歲。1953年，由泰山花崗岩砌成的馮玉祥墓在泰山落成。墓碑上，馮玉祥親筆書寫的一首詩《我》或可映照出這位將軍的一生：“平民生，平民活。不講美，不講闊。隻求為民，隻求為國。奮鬥不懈，守誠守拙。誌此不移，誓死抗倭。盡心盡力，我寫我說。咬緊牙關，我便是我。努力努力，一點不錯。”
曆史功過，任由後人評述，馮玉祥抗戰之功有目共睹，並將永遠載入中華民族英雄史冊。
他的一生爭議也很多，比如陣線多變，這在北洋混亂時期是可以被理解的。他常被人讚譽的事跡是將清帝驅逐出皇城，但是，很少有人知道，根據現代契約精神，那份清帝退位條約保證了中華民國對外蒙等地的領土主權合法性，而中華民國自己破壞了這一協定，至今還被海外別有用心的境外勢力加以利用。
他一生最受爭議的事情，是他在1927年前後，主持河南期間，他滅除佛教，驅逐僧侶，將千年古刹大相國寺改為民眾遊樂場所，使河南佛教元氣大傷。佛經有言，毀佛的人會身陷烈火地獄，巧合的是，馮玉祥日後果真死於輪船失火。
馮玉祥是個基督徒，是北洋時期較少的一直抱有以宗教思想救國的高級將領，他也是北洋時期以明確提出係列廉政思想並致力於廉政建設著稱的高級官員。
馮玉祥曾說“當官即不許發財”，他自己一生清廉如水。
近年在虞城縣利民鎮發現了一塊廉政碑。刻碑身長2.5米，寬1米，雖曆經變遷，依舊碑身完好，字跡清晰。這正是由馮玉祥於1927年親自撰文的碑刻，碑文的內容是：“我們一定要嚴懲貪官汙吏，土豪劣紳，為人民建設廉潔的政府，為人民除水患，興水利，修道路，種樹木，還要使人人都受到讀書識字的利益。我們是人民的武力，要為人民辦各種有益的事。”
《三大紀律八項注意》體現了共產黨人民軍隊的本質和宗旨，據劉華清將軍回憶，這曲子最早是他們從鄂豫皖蘇區的民歌《土地革命完成了》改編而來的，該民歌的曲調來自馮玉祥的《練兵歌》。馮玉祥《練兵歌》的曲調是照搬張作霖的《大帥練兵歌》；張作霖是轉抄了張之洞的《大帥練兵歌》；張之洞這曲調又是從北洋袁世凱的《大帥練兵歌》學來的。袁世凱當初在天津小站練兵，創建了近代中國第一支新式陸軍，采用德軍和日軍的建製，聘請了大量的德國教官和少數美國、日本教官。新建陸軍參謀營務處總辦、翰林徐世昌選擇了一首普魯士軍歌的曲調來為《大帥練兵歌》填詞。這首普魯士軍歌原名為《德皇威廉練兵曲》，是袁世凱所聘請的德國教官傳入中國的，非常適合隊伍行進時齊唱。
1948年4月23日，中國人民解放軍三十五軍占領國民政府總統府，這支部隊正是原來馮玉祥的部隊。
§§閻錫山：中國奇跡的製造者