1917年9月，孫中山先生領導的護法戰爭爆發，閻錫山按段祺瑞的旨意，派旅長商震率部赴湖南參戰，反對護法戰爭，不料全軍覆沒。自此他接受教訓，提出“保境安民”的口號，標榜“三不二要主義”，即不入黨，不問外省事，不為個人權利用兵；要服從中央命令，要保衛地方治安。這樣，他把力量集中用於本省的經營治理上，提倡以軍國主義為內容的“用民政治”。他說：“無論帝國主義、國家主義或軍國主義國家的政治，都是用民政治，非用民不足以圖強。”“政府政策是軍國政策，人民教育是軍國教育，社會組織是軍國組織。”這是他“用民政治”的思想基礎，其內容則為推行六政三事：六政者，水利、種樹、蠶桑、禁煙、天足、剪發（男人剪辮子）；三事者，種棉、造林、畜牧。在行政區劃的管理上，他借用日本的“村本政治”，建立了行政網，編定村製，五戶為鄰，有鄰長，二十五戶為閭，設有閭長，選舉地主豪紳為村長和村副，成立保衛團對青年進行軍事訓練。閻錫山的一係列政治措施，主觀上是加強了對人民的統治，客觀上對山西省的經濟發展也起到了一定的保護作用，又由於山西所處的地理位置關係，使其擺脫了南北之爭，暫時出現了社會比較安定、生產有所發展的景象。加上他大力宣傳，以金錢名位拉攏名流和政客為他吹噓，北洋政府遂授予山西“模範省”稱號。
1924年，直奉戰爭爆發，直係和奉係軍閥雙方先後都派人和閻錫山聯係，爭取支援。閻錫山是何等樣的人物？一見此場戰爭前途未卜，便借口力量薄弱，保持中立，並派人入京探查消息。不久，馮玉祥發動北京政變，曹錕和吳佩孚大勢已去，政局了然，他即刻聯合馮玉祥，擁護段祺瑞出山。兩年後，直奉軍閥聯合發起反對馮玉祥的戰爭，閻錫山又借機擴張勢力，一麵拉攏馮玉祥，一麵應付吳佩孚，最後又公開與張作霖、吳佩孚合作，夾擊馮玉祥，使馮玉祥部敗北，退守西北地區。閻錫山乘機將地盤擴大到綏遠，收編了馮軍諸部，部隊擴充為十七個師又八個炮兵團，並改名為晉綏軍。
1926年，北伐戰爭開始後不久，閻錫山曾派兵支援劉鎮華圍攻西安的楊虎城，而對全國戰局持觀察態度，不輕易出兵。北伐軍占領武漢後，他應邀派代表趙丕廉去武漢研討北伐事宜。趙丕廉到武漢後轉至南昌與蔣介石會麵，蔣說閻是老前輩，又是丈夫團裏的人，盼他能早日舉事。國民軍委會並授予閻錫山北方國民革命軍總司令之職，以促其出兵。但當趙丕廉返晉向閻錫山詳述後，他仍不表明態度，也不就任總司令一職。直到次年6月，才以國民黨山西省黨部提議的名義，自任為北方國民革命軍總司令，開始懸掛青天白日旗。此舉使張作霖十分不滿，派員來晉與閻好言相勸，要其與張合作，並以軍政府副元帥相許，閻錫山未允。不久，張作霖派人來以檢查部隊為名，前往山西布置軍事，此時閻錫山覺察到此棋是針對自己來的，於是公開與張作霖決裂，通電聲討張作霖，並兵分兩路，分別沿京漢線、京綏線攻擊奉軍，意圖從南北兩側襲擊北京。剛開始，他的部隊迅速占領了石家莊和新樂，後來卻在戰爭中連連失利，被迫兵退山西，據固關、娘子關和雁門關死守。張作霖一時怒氣衝天，調集幾十萬對人馬山西大舉進攻，但關塞險惡，久攻不克，部隊傷亡慘重，最後也隻好退出關外。此時馮玉祥部隊受到奉軍的威脅,閻錫山於是和馮玉祥聯名請求下野後留居日本的蔣介石回國,主持北伐戰爭,共同對付張作霖。不久,蔣介石回國,就任國民革命軍總司令。
1928年2月，蔣介石在徐州召開軍事會議，改編軍隊，成立四個集團軍。閻錫山就任國民革命軍第三集團軍總司令，次月，即出兵進攻奉軍，奪下石家莊，收複大同，並指揮所部繼續北進，進攻保定，欲奪取京津地區。同時，他派人潛入天津與日本駐軍司令新井勾結，取得新井的允諾，支持閻錫山軍占領保定，保證北京和天津拱手相讓。於是閻錫山全力攻打保定，迫使張學良棄城北撤，閻錫山卻不戰而進入北平和天津，一時被蔣介石委任為平津衛戍總司令。這樣，閻錫山就統治了晉、冀、察、綏四省和平、津兩大城市，先後兼任國民黨中央政治會議太原分會主席和北平分會代主席、內政部長、晉冀察綏賑災委員會主席、蒙藏委員會委員。
國民黨軍隊驅逐奉軍出關以後，蔣介石借編遣為名，開始削弱異己部隊，激起其他派係軍閥的不滿，最終釀成了新的軍閥戰爭。
當時桂係在西征唐生智和兩次北伐過程中得到很大發展，自然成為蔣介石統一中國的巨大障礙。1929年春，蔣介石以桂係擅自免去湖南省主席魯滌平為由，下令討伐桂係。為了孤立桂係，蔣介石派人聯絡閻錫山和馮玉祥。3月29日，閻錫山發表通電，率先響應蔣介石的討伐令。馮玉祥則采取騎牆態度，並欲伺機占領武漢，答應出兵助蔣討桂。沒想到，蔣介石很快就將桂係擊敗，兵不血刃地進入武漢。桂係一除，馮玉祥就成了蔣介石要迫切解決的問題。為了擊敗馮玉祥，蔣介石一麵竭力收買馮玉祥的部將，一麵離間閻馮的關係。
6月7日，蔣介石致電閻錫山，委任其為北路軍總司令，要求閻錫山幫助他進攻西北軍，迫使馮玉祥出洋。閻錫山在蔣馮衝突中，既想擁蔣壓馮、又想聯馮抗蔣。擁蔣壓馮，是想借蔣介石的軍事實力把西北軍擠出豫、陝，以稱霸中國北方；聯馮抗蔣，是因為他知道蔣介石不能容納異己，隻有聯馮，才能有力量抗蔣。因而，閻錫山對蔣介石的電諭討價還價。他主張和平解決糾紛，並放出話來說他要和馮玉祥一起下野出洋。隨後，閻錫山派人到天津購買船票，到日本安排住處，以此來要挾蔣介石。
蔣介石果然著急，立即使用各種手段，力勸閻錫山不要出洋。閻錫山以前曾多次邀馮玉祥到晉共商反蔣大計，但馮始終認為閻別有他圖而沒有入晉。馮玉祥看到閻錫山這次的舉動，逐漸減少了懷疑，加上老友李書成的勸說，馮玉祥決心入晉。
6月24日，馮玉祥偕同妻子在李書成的陪同下到達太原。閻錫山在熱烈地歡迎馮玉祥的到來後，並不立刻與馮商討反蔣之事，而是想將馮把握在手上，進一步向蔣介石要價。蔣介石看到馮玉祥已被閻錫山掌握，馬上到北平，並派吳稚暉、趙戴文、孔祥熙三人帶著他的親筆信到太原見閻錫山。請閻赴北平與他商討西北軍的善後事宜。閻錫山一麵電請中央撤銷對馮玉祥的處分，一麵隨同吳稚暉於6月30日來到北平。
蔣介石這時立即委任閻錫山為全國海陸空軍副總司令，使閻處於一人之下、萬人之上的地位。閻也答應蔣介石盡快解決西北軍的問題。7月2日，閻錫山突然宣布“得病”，住進醫院，閉門謝客。7月4日，他退掉了去日本的船票，並將馮玉祥誘至建安村軟禁起來。
閻錫山一麵誘禁馮玉祥，一麵又召集部下開會，再次表示堅決與馮一道出洋。蔣介石看出閻是在演戲，就順水推舟，派出方本仁等人去勸閻錫山不要出洋。閻錫山借機下台，到建安村向馮玉祥努力表白自己暫緩出洋並非本心，而是出於種種苦衷。
馮玉祥豈能看不出其中的把戲?但他不露聲色，而是暗中設法拆散蔣閻聯盟。馮玉祥秘密授意他的部下宋哲元等人，繞過閻錫山，直接向蔣介石靠攏，表示西北軍願意接受中央指揮，要求接濟軍餉。蔣介石看到西北軍已經屈服，認為他的各個擊破的計劃已經實現，便立即決定召開第二次編遣會議，把矛頭對準閻錫山。
閻錫山看到他聯蔣壓馮的如意算盤，到頭來卻算到了自己頭上，隻好又來個大轉彎，再次聯馮抗蔣。是年中秋之夜，閻到建安村向馮道歉，並提出聯合反蔣。馮玉祥看到拆散蔣、閻聯盟的目的已達到，遂向閻表示願捐棄前嫌，合作反蔣。
此年間，唐生智因蔣介石沒有給他原來打桂係軍閥時許諾的湖南地盤而不滿，派人與閻聯絡並約定，由唐發出通電，擁閻為首，共同倒蔣。閻還答應接濟唐軍餉60萬元。但是唐在通電中卻以汪精衛的“護黨救國”的口號為由，擁汪倒蔣。閻一見，大為光火，便又夥同張學良等10餘人發出通電，擁蔣反唐。
1930年元旦，閻錫山令晉綏軍在鄭州觀望形勢，按兵不動，直到討唐的各路軍連戰大捷，戰局已定，他才親赴鄭州，督師進兵，以圖不戰而勝。閻的舉動早被蔣看透，待討唐戰事一停，便授意韓複榘在鄭州秘密捉閻。不料閻得知消息，倉卒化裝逃回老巢太原，龜縮不出。2月，閻與蔣之間開始了一場筆戰，閻錫山說：“戡亂而不如止亂，不止亂而一味戡亂，國內紛亂，將無已時。”並提出要蔣介石下野。閻錫山首先向蔣介石挑起筆戰，一時倒蔣各派係及軍閥代表齊集太原，商定倒蔣事宜，倒蔣各派迅速形成了一支強大的反蔣陣線。3月21日，閻、馮發出倒蔣通電，全國大小軍閥應者如雲。4月1日，閻錫山就任總司令，召開軍事會議，決定集結重兵，組織八個方麵軍，沿平漢線、隴海線和津浦線分兵三路而進。蔣介石也不示弱，4月4日在南京以國民政府名義下令免除閻的所有職務，通令拿辦。次日，下令討閻。於是，一場以閻錫山為首的反蔣大戰在中原拉開。
不久，閻和馮在鄭州商討作戰方案，作了兵力部署後，閻在魯北晏城設行營，親自指揮戰爭。5月，兩軍激戰於魯豫，8月又戰於津浦和隴海路。閻部因係各軍閥集結而成，所以各懷異心，保存實力，爭奪地位，以致發生內訌，加之馮部在津浦線受挫，9月18日，張學良通電擁蔣，帶兵入關，於是倒蔣之軍腹背受敵，紛紛撤兵，最終全線崩潰。閻錫山兵退太原，不久將兵權移交徐永昌，自己又一次化裝潛入大連，托庇於日本人，並對山西軍政大權進行遙控。這場不義的中原大戰，使軍民死傷近30萬人，戰區及附近民眾深受其害，蔣閻二氏不能辭其咎也。
1931年8月5日，閻錫山在日本人的協助下乘飛機潛回大同，隱居在家鄉五台縣的河邊村。“9·18”事變以後，汪精衛擔任了國民黨政府的行政院長，閻錫山即派員赴南京與他聯係，又派人去北平向各方人士請求援助，通過宋美齡的關係在蔣介石麵前疏通，加上汪精衛的提議，蔣介石表示了“捐棄前嫌，團結禦侮”的態度，於1932年2月，委派閻為太原綏靖公署主任，不久恢複其國民政府委員、軍事委員會委員等職，還使他當選為國民黨中央執委。於是閻蔣再度合流，閻氏重新統治了晉綏兩省。他的重新出山，使他一度保守地發展本地經濟，發展自己的實力，幾年間使山西省的工業、軍火業、交通、銀行，有了較大的起色，他也從中獲得巨利，中飽私囊達兩千萬元。他還巧立名目收捐派稅，居然連農民進城挑糞也要上捐，當時劉師亮撰聯諷刺說：“自古未聞糞有稅；而今隻有屁無捐。”還加個橫批曰：“民國萬稅”。閻錫山的發展地區經濟政策給當地人民帶來的不是幸福，而是更深重的負擔，更殘酷的剝削。
1935年華北事變後，日軍進窺綏東，閻氏為了維護他的官僚資產和政治地位，提出“守土抗戰”的口號。客觀上來說，這口號還有一種抗日精神，也就成為他後來接受中國共產黨提出的抗日民族統一戰線政策的思想基礎。這年冬天，中共中央聲明停止內戰，一致對外，要求閻錫山允許紅軍通過山西地區開赴前線抗日，而閻氏置國家和民族利益於不顧，拒絕紅軍要求，並利用黃河天險，在北起河曲，南至永濟的黃河東岸，築起長長的碉堡線，企圖阻止紅軍東渡。次年2月20日，東征紅軍渡過黃河，打敗閻軍，閻錫山見老巢太原受到威脅，便急電蔣介石派兵增援。這下正中蔣氏下懷，他正想派自己的部隊打入山西，正愁無處下手，此正是天賜良機，即派兵五個師入晉，不料閻錫山軍在得到增兵之前被擊潰。紅軍為了珍惜國力以對抗日軍，5月5日發出回師通電，撤軍至黃河以西。5月26日，毛澤東給閻錫山寫了一封信，托被俘的閻部第66師第392團團長郭登瀛帶回，敦促閻軍和紅軍聯合一致，抗日反蔣：“救國大計，非一手一足之烈所能集事。敝軍抗日被阻，然此誌如昨，千回百折，非達目的不止，亦料先生等終有覺悟的一日。側聞蔣氏迫先生日甚，強製晉軍二度入陝，而以其中央軍監視其後，是蔣氏迄無悔禍之心，漢奸賣國賊無與為匹，三晉軍民必有同慨。先生如能同敝方聯合一致，抗日反蔣，則敝方同誌甚願與晉軍立於共同戰線，除此中國人民之公敵。”
直至7月，日軍欲進犯綏遠，並在山西屢造事端，給閻在山西的地位構成極大危脅。鑒於這一形勢，閻錫山從自己利益出發，提出了“抱著弱國的態度，守土抗戰，踢破經常範圍，加緊自強”的方針，並於9月成立了山西統一戰線性質的“犧牲救國同盟會”，簡稱“犧盟會”，閻錫山自任會長，中共派薄一波同誌前往主持該會，成立軍政訓練委員會，訓練進步青年。10月底，閻錫山又大力支持傅作義部隊抗擊日偽軍對綏遠的侵略，並取得百靈廟大捷，挫敗了日寇侵略綏遠，妄圖建立“蒙古帝國”的陰謀。
1936年10月31日是蔣介石的50歲壽辰，閻錫山和張學良決定利用祝壽之機，向蔣介石進諫，要求蔣介石停止內戰，聯共抗日。在蔣介石祝壽典禮舉行後，閻錫山與張學良即一起晉謁蔣介石，陳述他們的主張，而蔣介石仍舊堅持其“攘外必先安內”的政策，並說共產黨已成強弩之末，隻要大家努力，短期內不難徹底消滅，永絕後患。蔣介石對二人大聲訓斥,閻、張兩人耐心聽完蔣的訓詞後,知道無能為力了，便沮喪地退出。12月12日，張學良在多次勸諫蔣介石無效後，聯合楊虎城發動兵諫，囚禁蔣介石，發動了震驚全國的西安事變。事變後，閻錫山接到張學良來電，希望他能來西安共商救國大計。閻錫山立即召開軍政緊急會議，商討對策。此時，正值綏遠抗戰之際，閻錫山需要國民黨中央政府給他以經濟和軍事上的支持。如果全國陷入混亂，他以晉綏之力是無法抗擊日軍的。而西安事變本身就具有內戰的潛在可能，如果處理不當，馬上就會演成大規模的內戰。他認為當前在國內，隻有蔣介石有能力來領導中國的對日戰爭。因此，他雖然與蔣介石有過深刻的矛盾，仍改變了自己以前對張、楊的態度，而站在國民黨主和派一邊，力促和平解決西安事變。於是，他最後決定擁護南京政府，營救蔣介石，譴責張、楊。不久，閻錫山致電張、楊說：“來電均誦悉，環讀再三，驚痛無已。弟有四個問題，質諸兄等：第一、兄等將何以善後？第二、兄等此舉，增加抗日力量乎？減少抗日力量乎？第三、抑移對外戰爭為內戰乎？第四、兄能保不演成國內極端殘殺乎?”閻錫山的反應無疑給張、楊潑了一頭冷水。此時，南京方麵與西安方麵中斷聯係，與兩方都有聯係的閻錫山的舉止就具有舉足輕重的影響。南京政府代行政院長孔祥熙在收到閻錫山的電報當天，就複電閻，“我公公忠體國，雄鎮邊陲，登高一呼，眾流響應；尚祈主張正義，領導群倫，俾抒國難……漢卿於公夙致推仰，尚責以大義，動以私情，挽已倒之狂瀾，拯救國家於萬劫。”並賦予閻錫山以營救蔣介石的全權。