10月13日，日軍三個師團和特種部隊在飛機、戰車和重炮掩護下，對忻口發動猛攻。衛立煌指揮守軍奮勇抵抗，幾經激戰，南懷化以南的靈山製高點被敵攻占，整個防線被打開了一個缺口。衛立煌聞訊，立即前往察看，嚴令李仙洲師實施反擊，收複失地。但李仙洲部反擊失利，李仙洲重傷而歸。此時，衛立煌計算自己的兵力，還有六個步兵師和兩個騎兵旅可以機動，決定用郝夢齡軍和陳長捷軍進行一次決定性的反擊，殲滅阪垣師團，奪回南懷化陣地。但是這次反擊遭到敵人的逆襲，雙方展開了肉搏戰，靈山得而複失，失而複得。在這場激烈的混戰中，第9軍軍長郝夢齡、第54師師長劉家蹦同時殉國，官兵傷亡達數千人。衛立煌聞報非常痛心，決定對敵暫取守勢，至此，日軍始終未能突破衛部防線。當時任八路軍政治部主任的任弼時曾評價說：“忻口戰爭是華北抗戰中最激烈的戰爭。衛立煌將軍指揮下的全線部隊，雖遭受了重大傷亡，但毫未動搖，許多忠勇將士的英勇奮鬥，是值得每個同胞永遠紀念的。”但在衛立煌準備從左翼向阪垣師團發動攻勢的同時，從東麵進攻太原的日軍已突破娘子關，長驅直入，奔向太原。閻錫山在電話裏向衛立煌求援說：“東麵守不住啦!咱們的兵力都用上了，你看咋辦?”衛立煌告訴他：“守不住東麵，一定要守住忻口與太原之間的通道，兩片聯係起來，棋才能活。”同時衛立煌又考慮到，一旦敵人割斷太原與忻口之間的聯係就有被敵人各個擊破的可能。於是11月1日，他命令部隊退出忻口陣地，向太原靠攏。
9日，太原失守。衛立煌隻好率部至介休、孝義一帶築工事堅守，與敵對峙。抗日戰爭爆發後的第一個春節，農曆正月初一，風和日麗，衛立煌帶著他第14集團軍的兩個軍長——第14軍軍長李默庵和第9軍軍長郭寄嬌，從臨汾總部來到第18集團軍總部給朱德總司令拜年。第18集團軍總部為衛立煌的到來召開了盛大的歡迎會。1938年2月中旬，衛立煌被任命為第2戰區司令長官兼前敵總指揮，指揮山西境內的全部中央軍。16日，衛立煌將總部移駐霍縣準備對付敵人新的行動。衛立煌認為，敵人的戰略是速戰速決，我國軍隊采用持久戰，則是對日軍的有效打擊手段。中國軍隊應主動阻擊其由北南下的師團，爭取時間，讓兄弟部隊轉入太行、呂梁、中條山脈和敵後。於是，他與閻錫山、朱總司令研究，阻擊點選擇在臨汾北麵的韓信嶺。2月17日，衛立煌指揮所部在太行山區的韓信嶺一帶展開，構築工事，進行了繼忻口之後的第二次阻擊戰。衛立煌率部在韓信嶺與日軍惡戰至26日，寸土不讓，在韓信嶺堅守了10天，衛立煌見戰略目的已達到，遂令其主力部隊向中條山轉移。
不久，衛立煌以第2戰區副司令長官兼前敵指揮身份，批準撥給18集團軍步槍子彈100萬發，手榴彈20萬枚和牛肉罐頭180箱，並多次去延安造訪。在延安期間，衛立煌還觀看了戰地服務團演出的以團結抗日為內容的文藝節目，當即表示也要成立這樣一個團體。不久，衛立煌參照西北戰地服務團的樣子，集中了幾十名北平流亡學生和陝北公學的畢業生組成了“第2戰區前敵總指揮部戰地工作團”，並從八路軍中引了一批人才。他還親自為“戰地工作團”規定任務，主要是做軍隊的政治宣傳工作，搞好與民眾關係，用新思想、新辦法代替舊思想、舊辦法，鼓舞部隊士氣，提高部隊作戰能力，使部隊不被日軍消滅。他命令司令部人員，每天下午五點都要到工作團學唱歌，凡不去的，必須到他本人那裏去請假。這樣，每當夕陽西下之際，工作團門口便聚集了一群挺胸凸肚的官兒們，搖頭晃腦唱著“大刀向鬼子們的頭上砍去”，“工、農、商、學、兵，大家來救亡”的歌曲。在工作團的協助下，衛立煌還自己填詞，寫了《第14集團軍軍歌》，歌詞如下：
這是我們的地方，
這是我們的家鄉，
我們第14集團軍，
英勇堅強，
為祖國的生存而奮鬥
團結得好比鋼一樣。
服從命令，保衛邊疆，
聯合民眾，抵抗暴強，
把自己的力量獻給人民，
完成中華民族的解放。
此時，衛立煌的“戰地工作團”內有個秘密的共產黨支部。被蔣介石視為高級將領的衛立煌，居然提出要加入中國共產黨。事情是這樣的：
1939年的一天晚上，平常沒有吸煙習慣的衛立煌突然吸起煙來，經過良久的思索，他突然向來自八路軍的工作團團員、秘書趙榮聲提出：“我參加共產黨好嗎？怎麼參加呢?”見趙秘書無法答複，他就催促趙秘書到西安去找八路軍辦事處的林伯渠，當下從床底下拖出一個小皮箱，取出100元給趙，說：“不要到軍需處領旅差費了，也不要跟任何人說，不要耽擱，天亮就走。”林伯渠的答複，對衛立煌起了很大影響。衛立煌特別對信中“黃河保衛華北，先生保衛黃河”的話頗為感動。
抗戰初期，按國民政府的先例，凡司令長官都兼任該戰區最大一個省的省主席，可衛立煌自從任司令長官以來，不兼省主席，顯得難堪，於是他一麵直接打電報向蔣介石提出要求，一麵托好友為其說項。9月，行政院終於發表了他兼任河南省主席之職的任命狀。
衛立煌自從兼任省府主席後，感到最麻煩的事就是怎樣對付地方勢力。衛立煌新官上任，很想在地方上做一件令人耳目一新的事情。他看到河南大學辦得烏煙瘴氣，於是就擬了個改造方案，決定保住原有的範文瀾、稽文甫等知名教授，換校長、教務長、秘書長，由新領導倡導移風易俗，把他們的積極性調動起來。可是此事尚未辦好，國民黨頑固派槍殺確山縣的新四軍負傷人員和家屬二百餘人的消息傳來，全國為之震驚。衛立煌得知後，立即撤了該地區專員的職，把聯防主任傳到洛陽關禁起來，並收回其工廠，取消其民團預備隊，使他的名聲一落千丈，氣得吐血，不久死去。
1941年9月初，日軍華北方麵軍司令官更換為熟悉中國情況的岡村寧次大將。9月底，岡村寧次集中兵力，分三路渡過黃河進犯鄭州。由於鄭州守備空虛，衛立煌來不及調派兵力，10月4日，鄭州即被日軍占領。衛立煌認為鄭州是中原重鎮，命令部隊於13日拂曉實施全麵反攻，此次戰役，衛立煌親自指揮，於10月31日一舉收複鄭州。
1942年1月中旬，洛陽形勢暫時穩定，衛立煌被革去二級上將銜，隨後又被免去河南省主席職務，與蔣鼎文對調。一個月之後，衛立煌乘車離開洛陽長官司令部前往火車站，途經市區，突然發現沿街許多群眾自發設置香案來給他送行。他十分感動，連忙下車步行，一直走到車站。據說在洛陽市，70年前前清一位道台離任時才有過這樣動人的場麵。他一進站，便軍樂齊鳴，集團軍總司令部和長官部的同事紛紛走上前來，與他握手言別。
1943年冬，中國遠征軍赴緬作戰失利，此時，衛立煌被再度起用，被蔣介石任命為中國遠征軍司令。當時，在緬甸的日軍有第23軍、第38軍、第15軍和“印度國民”師團，共計九個師團的兵力。日軍在滇緬路線上各要點騰衝、龍陵、鬆山、平更、芒市、噸町等地，利用地形，築工事扼守。衛立煌研究了敵情，製定了反攻作戰方案：以騰衝為攻擊目標，以第11集團軍擔任防守，並決定以第20集團軍負責攻擊，由粟柴壩、雙虹橋強渡怒江，向窄路實施轟炸，阻滯緬北的日第33軍和第15軍出兵支援滇西日軍。