銘軍後被改編為“練軍（屬於地方性質的部隊）”，共有五營，駐保定，故名為“保定練軍”。這時候馮有茂因功已升為後營右哨哨官，亦遷居保定。他雖然屢次升級，但因軍餉微薄，而賦性豪爽，不治家人生產，又不屑私取不義之財，所以家境一向貧窘。他們所住的房子在離保定城二裏多遠之東關外的大康格莊，隻有四間屋子。據馮玉祥後來回憶：“房子很不好，房間怕隻有一丈餘長的光景，房身也非常低矮，父親立起身來，舉手可觸著頂上的梁木。屋內除了睡眠的土炕及造飯的地鍋之外，很少再有空隙的地方。桌凳等的陳設不消說都是沒有的。客人來了，連坐的地方都感到困難。這時父親那種謙窘的樣子，看了真令人難過。這與其說是家裏來了客人，倒不如說是父親的難關來了恰當。四圍的牆壁，因為年代久遠，風吹雨淋，都已漸漸地鬆弛崩潰，成塊的泥皮常常向下脫落。更因造飯的緣故，炊煙在牆上塗抹了一層很厚的黑堊，襯映得滿屋裏黑漆一團。最討厭的是吃飯的時候，一掀鍋蓋，頂上的灰塵就同秋天的落葉一樣，簌簌地望下降落，有時猛烈的水蒸氣上衝，多年停滯在屋頂上的灰塵也會掉落下來，弄得滿鍋裏烏涅白皂，令人看了無法下箸。平常坐在屋子裏，若稍微留心一下，就會看見細雨似的煤灰滿處飛舞著，地上，衣服上，被子上，無處不是塵屑。這兩間齷齪不堪的房屋，就是我們全家安身立命之所，會客、睡覺、廚房、餐室，統統都仰賴著它。”過了半年，才搬到一家稍大的房子，一共七間。馮玉祥就在這鄉間陋室渡其缺乏幸福的童年生活。
由於家境窘迫，馮玉祥自小就開始學著料理家事，割草、拾柴，自不必說，稍大一點就要下地幹活。過去沒有自動機械，一切都要靠手來勞作。中國農民的艱辛，如果不親自體驗，那種苦是無法想象的。不要說得太遠，解放後的七八十年代農村也一樣，因此上農村的孩子念書特別刻苦，為的是考上大學脫離苦海。
在馮玉祥的記憶裏，穿新鞋的時候很少，所穿的大都是“二鞋”。說起“二鞋”來，怕隻有穿過的人才能道出原委。普通人家，常常把穿得半舊不新的鞋子賣給打鼓的小販，而後經過一番洗刷修補的工作，前後再打上皮包頭；這樣的鞋子，從外麵看來好像新鞋似的，其實叫做“二鞋”。穿這種鞋，有一種缺陷，就是鞋的大小往往不能適合自己的腳，也許小些，也許大些，穿長久了，腳上就會生毛病。
在這種環境下成長起來的馮玉祥，養成了節儉、樸素的優良習慣，而且貫穿一生。同時也鑄就了堅忍不拔，不屈不撓的性格。後來他的部隊軍紀嚴明，秋毫不犯，也源於此。因為他知道老百姓的苦楚，所以堅決不允許士兵們再去擾害他們。
那時社會上有一種很不好的風氣，就是抽鴉片。在當時是一種時尚、身份的象征。就像現在青年們偷偷吸食毒品，窮人是不敢沾染的。馮有茂雖然隻是一個小小的哨官（相當於連長），卻未能免俗，而且是夫婦同吸。原本就清苦的日子，這樣一來如同雪上加霜。因此家裏日常生活差不多天天要同當鋪發生關係。後來馮玉祥在自傳中寫道：“父親的薪餉不到月杪不下來，在那青黃不接的時期，要維持一家人的生活，惟一的門路就是上當鋪。大人因為礙著顏麵，不好意思上當鋪去，每次都是由我同父親的一個護兵竇玉明外號叫竇老魁的一同去。贖當的時候，也是他跟著我去贖。每月上旬，所當的大都是些整齊的比較值錢的衣服；可是快到下旬，不僅家中隨手應用的什物要拿去典當，就是炕上鋪墊的褥子也要揭下來送進當鋪了。這樣剜肉補瘡地勉強支持著，一直要到眼看著快斷炊，家中再也找不出可典當的東西來的時候，父親的餉才能發下來，餉一領到手，頭一條事就是贖當。這好像誥命似的，一點兒也不敢拖延，要不然，錢花光了當也贖不出來，下月的生計可就毫無辦法了。贖當的時候，竇玉明拿著扁擔在頭裏走，我在後頭跟著。這時我一麵走，一麵卻在算計當票的張數以及利息的多寡，生怕大人算錯了賬，多付了人家錢。到當鋪把當物取了出來，用繩子捆好，兩人就抬著回家。長袍、馬褂、坎肩、衩褲、褥子以及各種應用的什物，統統都在裏頭。”