馬步芳祖上，居住在河州西鄉摩尼溝。《秦邊紀略》中說：“河州，晉所名也。漢曰大夏，隋曰枹罕，唐曰安鄉。……蓋黃河入中國，始於河州，禹之導河積石是也。”自古以來，河州就為邊防重鎮。明代二十四關，皆設於河州西南，“近有起台，遠有保安，尤遠有歸德”，諸關皆山險地，林木茂密，築堡屯兵，為邊關商道要衝。
馬步芳的曾祖馬積名，妻馬氏，妾馬氏，生七子五女。據說，馬積名原籍狄道西鄉，元時遷居摩尼溝。
西北回族多姓馬，大都由西域遷徙而來。明時，恒州刺使馬慶祥，在其所著《石田集》中有詩雲：“昔我七世上，養島洮河西。”洮河西，指的就是河州這一地區。馬積名的祖上，可能是隨蒙古大軍東征的“西域親軍”的戰士。《草原帝國》寫道：“成吉思汗還曾指揮過征討甘肅西夏唐兀惕王國的戰爭。因為西夏國王盡管是他的臣仆，卻逃避派軍赴花剌子模作戰的義務。《秘史》中記載說，在接到有關這事的邀請後，唐兀惕大臣之一阿沙敢還曾代表他的國王野蠻無禮地回答說：假使成吉思汗沒有足夠的軍隊，他就不配掌握最高的政權。這種大言頂撞會令人難以忘記的。在處理了花剌子模事件之後，世界征服者便對這種背信行為實行報複。1227年，成吉思汗的大軍先後占領臨洮、河州、西寧等地，並對西夏國都興慶府進行包圍。成吉思汗的夏季營帳，就駐紮於隆德縣境的六盤山上。這年8月18日，72歲的成吉思汗去世。稍後，都城興慶府被攻克，根據遺囑，城中百姓全部被屠殺，剩下的居民，則被封賞給成吉思汗最美麗的妃子也遂——這次戰役中，她一直伴隨汗王。屯牧於河州地區的養馬軍戶，自然也受也遂管轄。這些養馬軍戶，都從中亞隨軍遷徙而來，與曆史上所稱的“花門貴種”一樣，在習俗形貌上有別於當地漢民。
馬海晏是馬步芳的祖父，字德庵，生三子四女，長子馬麒，次子馬麟，三子馬鳳，祖輩務農，僅得溫飽。到了馬海晏成年，始兼營商務。初時往來於蘭州與河州之間，從事“馱腳”。漸有餘資後，改營商務貿易，遠至隴東、陝西一帶販運貨物。那時候，陝甘道路不靖，常有盜賊出沒，劫人財物。馬海晏自幼習武，常以流星致勝，“商賈多依賴之”，不及十稔，家業漸富。中年後，即棄商攻讀《古蘭經》，致力於伊斯蘭教務活動，在西鄉一帶頗有名氣。馬海晏的為人，宅心仁厚，輕財好義。他的性格，可用“慷慨好義，樂善好施”八個字來概括。到了中年，他的這個可貴的性格，更是擴大了範圍。對於家鄉的回漢百姓，認識的還是不認識的，隻要有人向他求助，他都給予幫助。沒有向他求助的，他隻要發現，也必定主動施舍救助。他經常在早晨或傍晚時分，登上高地或站在自家的屋頂上，四處瞭望觀察。倘若有一家或幾家的煙囪不冒煙時，他便直奔這些人家，關切地問道：“你家今天為什麼不做飯了，或許遇到了什麼困難？希望你一定將真話告訴我，我一定盡力幫助你！”那些未生火做飯的人家，把原因給他講了之後，他就引那家的人到自己家中，給些需要的錢財什物，然後說道：“快些拿去，把困難解決了。下次再有難處時，希望早些給我說一聲！”這是種極優秀的道德品質，堪稱人道博愛的風範！所以，家鄉的人，無論老幼，對這位慈祥仁愛的馬海晏，沒有不敬重的。大家都稱他“二爺”，因為他排行老二。
清同治初年，河州犛牛溝阿訇馬占鼇，帶頭舉起義旗，反抗清政府。馬海晏是馬占鼇的表兄，又是他的姑夫，起義之初，馬占鼇就請他讚襄軍事，因為馬海晏不但有過人的膽識，還長於軍事謀略。在進攻河州城的戰鬥中，他排兵布陣，就有卓越表現，馬占鼇就令他做回民軍的“前行”官，軍中稱他為“前行大人”。“前行”，就是今天所說的“前線總指揮”。
清朝鹹豐年間，在西北陝西、甘肅、新疆三省的廣大區域內，回民軍有三個主要的戰鬥據點：陝西渭南的白彥虎，甘肅金積堡的馬化龍，河州的馬占鼇，肅州的馬文祿，新疆迪化（烏魯木齊）的妥明。其中，馬化龍的號召力最大，馬占鼇部隊的戰鬥力最強。河州地接牧區，民風強健，人們愛好狩獵，每家男子都備有獵槍、駿馬，而且騎射非常精熟。《陝甘劫餘錄》中說：“河州回頗勤儉，故較盈實，平時多置搶禦匪，暇時射獵，其槍多不離身。常有赴親友處，負槍於背，躍馬而行，遇飛鳥而過，背槍擊之，無不擊落。”馬海宴也是一位好獵手。他能在騎馬飛馳中，“一馬三槍”，連射三彈，彈無虛發。古時獵槍，多為火槍，能在馬背上用牛角、藥壺裝填火藥鉛彈，就十分不易，而能連發三槍，槍槍命中，就難上加難了。
馬海晏所創造的戰爭奇跡，就在太子寺會戰一役。
1871年（清同治十年)，陝甘總督左宗棠在殘酷鎮壓金積堡馬化龍的回民後，集中了七十多營騎、三萬五千人的優勢兵力，兵分三路，向河州推進。馬占鼇一再求撫，但左宗棠堅決不允。農曆八月間，湘軍在洮河上搭建浮橋完成，各營相繼渡河，進攻三甲集。馬占鼇部在黑山頭逐壘，固守回民軍不支退卻，湘軍逼近三甲集。
十月初八，康家崖浮橋又成，湘軍兩路大軍會攻三甲集。馬占鼇部堅壁固守數晝夜，最後不支退卻。三甲集為河州門戶，這道天然屏障的喪失，使戰鬥進入了艱難時期。但是，三甲集周圍百餘裏以內，皆為崇山峻嶺，路徑狹小，大軍運動困難，這種複雜的山區地形，也給回民軍誘敵深入，開展運動戰，提供了有利條件。
湘軍和回民軍，在認真準備七十天之後，便開始了太子寺大會戰。
臘月二十七，馬占鼇部七阿訇趁夜色，在黨川鋪北偷築三壘，橫亙於甘南部建字兩營之間，湘軍糧道梗塞。24日，湘軍提督傅先宗進攻三壘，而回民軍轉攻石梁坡，總兵李占椿戰斃。27日，回民軍再攻石梁坡、薛家坪，總兵、遊擊、都司、守備、主簿多人戰斃。此時，已到殘臘年關，湘軍休戰，各營準備過年。馬占鼇、馬海晏、馬永瑞、馬榮、馬悟真等回民軍首領，於正月初一召開緊急會議，他們決定在新路坡以東山梁，再築三壘，切斷湘軍糧道，並在附近尋求戰機，進行決戰，以求生路。馬海晏建議在爛泥溝四莊的清軍核心陣地，偷築一壘，以為掎角之勢。因為爛泥溝四莊設統帥部，是湘軍的指揮中心。在此處築壘最難，但善戰者應從最關鍵處入手，打擊清軍中樞神經，就有可能使戰局變活，一舉擊潰湘軍，轉敗為勝。
馬海晏主張，挑選五百名彈無虛發的獵手，組成一支敢死隊，講明此次行動的利害關係，采取自動報名方式，嚴格選拔，力求“以小我的牲犧奉獻，拯救數百
萬回族大眾之生命”。
這道命令發出後，回民軍中報名踴躍，一日之間，便選拔出了五百名勇士。
同治十一年一月初四，夜幕籠罩四野。二更時分，馬海宴集結起五百名敢死隊員，每人攜帶充足的槍支彈藥，每人一杆槍一把刀，一湯瓶水，二百五十人每人背負四塊青磚，二百五十人每人攜五尺長的一根木樁。攜帶綁紮妥當之後，馬海宴親自在前帶隊，眾人銜枚急奔，在夜色之中潛入四莊陣地，開始構築簡單營壘。正月天氣，河州滴水成冰。他們先用磚塊圍住木樁，然後將湯瓶中的水澆上去，青磚便與木樁迅速凍結在一起。到天色微明時，便築成了一座速成的營壘。馬海晏對營壘中的五百勇士，下達死命令，他以無比堅定的口吻說道：“現在工事業已完成，勝敗之數，是真主的定奪，我們回回隻有依賴真主的護佑了！希望大家以哀軍求勝的心情，進入陣地等待。從現在起，不準任何人以任何理由開槍，在我的號槍沒有發出前，不論哪位如果提前開槍，就由督陣官馬福旺立刻將他的多羅砍下來！”