1926年9月，出國考察的馮玉祥從蘇聯回來，加入了討伐吳佩孚和張作霖的戰鬥。這時他的國民軍數萬人正從南口前線潰敗到綏遠，全軍精神頹喪，士氣不振。所經之地千裏荒無人煙，正當酷暑季節，白天烈日炙烤，夜晚又寒氣逼人。部隊饑一頓飽一頓，士兵逃亡、違紀的事不斷發生。
馮玉祥在五原收容部隊，誓師參加北伐，揮師南下陝甘。陝甘兩省本是貧瘠之區，連年用兵，民力已盡，加上大軍雲集，所需糧餉多，財政拮據之狀可以想見。國民軍入陝後一連數月，全省收入每月僅有數萬元。官兵每月每人發夥食費四元五角，後來增加到六元五角，行政人員月薪分為二十元和十元兩種。士兵食不果腹，軍衣破損不堪，個個麵有菜色，人人滿身虱子如叫花子。傷病者沒有醫藥，死者連棺材也沒有，隻能用布袋裹著埋葬，名日“革命棺”。
1927年12月，國民軍進入河南，投入大規模戰鬥，但此時軍費隻存五百現洋，無法支撐軍需。萬般無奈下，就用這最後一筆錢來購買紙張，印製“流通券”向市場采購軍需物品，商民自然不能接受這種假錢，部隊隻好強製推行，共發出千萬元以解燃眉之急。
這時期，蘇聯提供的裝備給予了雪中送炭的幫助。1925年蘇聯就向馮玉祥提供過價值600多萬盧布的援助，包括18000支步槍、90挺機槍和24門大炮，甚至還有國內極罕見的飛機十餘架。1926年他從蘇聯回國後更得到了數萬支步槍、數千萬發彈藥等物資，總價值達八九百萬盧布，連廣東政府都沒有獲得那麼大的軍事援助。馮玉祥在幾乎沒有經濟來源的情況下控製了西北數省和河南。
自曹錕賄選和馮玉祥兵變，本就時斷時續的共和法統徹底終結，中國此時已經失去中央政權，段祺瑞所謂的“臨時執政”沒有任何憲法依據。但是段祺瑞本人有社會號召力，所以西方列強還是循例正式承認北京政權為中華民國中央政府。但是1926年4月段政權垮台以後，列強徹底對北京政府失去了信心，開始承認廣州政權為“事實政府”。
北伐中，“打倒帝國主義”的口號震天響，受到反帝教育的人們把矛頭對準了外國租界。1927年春天，國民政府收回漢口和九江的英租界，列強采取了妥協政策，將33個租界中的20個交還給中國政府。最重要的上海租界還保留著，但是外國人卻不得不將租界的司法審判權交還，中國政府贏得了監督租界行政的權利。
在廣東北伐軍和北方國民軍夾擊之下，曾經威震中原的吳佩孚大帥兵敗潦倒，一路轉到四川白帝城安身，其狼狽狀比落難的劉備有過之無不及。意外的是，日本第一遣外艦隊司令荒城二郎少將專程到此拜訪落魄的吳大帥，表示願供給私人借款100萬元、步槍10萬支、小炮500門、機關槍2000挺，幫助他東山再起。這個條件自然極其誘人，可是對吳佩孚不發生作用。
吳佩孚義正詞嚴地對日本人說：“過去我有槍不止十萬，有錢不止百萬，尚且一敗塗地，可見成敗不在於槍炮和金錢。我如果願意借外債、引外援，何必待到今日。中國事應該由中國人自己了結。”這位有原則的軍人終身奉行“四不主義”（不出洋、不入租界、不借外債、不蓄私財），以接續儒家道統為己任。他在戰場上失敗了，但在民族氣節上守住了自己的底線。