在此期間,徐向前曾隨同周恩來到大同與編在閻錫山的第二戰區的傅作義作過長談,幫助閻錫山疏通關係,爭取他與閻的配合,搞好大同會戰。經過做工作,傅表示擁護民族統一戰線主張,堅決抗戰,擁護閻錫山的統一調動,同時,在閻錫山的要求下,徐向前還與周恩來、彭德懷一夜之間草擬了第二戰區作戰計劃,使閻錫山對共產黨人不得不另眼相看。
這次同閻錫山的談判,主要有三個內容:一是堅持國共合作,共同抗日;二是八路軍進入山西後的作戰地域和方針問題;三是八路軍的薪餉和裝備補充問題。在談判中,周恩來、徐向前對閻錫山的"聯共"態度及"守士抗戰"主張,給予了積極的評價。經反複商談,閻錫山同意成立第二戰區民族革命戰爭總動員會,進行動員民眾的工作,並答應為八路軍開赴晉察冀抗日前線提供方便,以及解決後勤供應問題。
徐向前回到久別的山西後,利用他和閻錫山的五台同鄉關係,努力多做統戰工作。他和周恩來一樣,經常夜以繼日地工作,會見各界人士,深入群眾,利用一切機會宣傳共產黨的抗日主張。太原國民師範是徐向前的母校,他曾陪同周恩來去作過有關團結起來,結成堅固的抗日民族統一戰線問題的講演,而且一講就是幾個小時,台下的群眾始終不肯離去,於是,他們的演講直到深夜,在群眾中產生了深刻的影響。徐向前還曾經應老同學武尚仁、鄭季翹的邀請,到太原教育公會自省堂給一批平津流亡學生演講。他向學生介紹了共產黨的抗日救國綱領,回答了他們提出的問題。徐向前說:"要做好抗日工作,首先要有奪取抗戰勝利的信心。不論在任何情況下,堅定不移,毫不動搖。沒有這一條,就談不上做好抗日工作。其次,要有過艱苦生活的準備。勝利一定屬於我們,但勝利是靠流血流汗、艱苦奮鬥得來。萬事開頭難,要知難而進,不能碰到困難就打退堂鼓。第三,最重要的,就是要宣傳民眾,組織民眾,武裝民眾。山西省地廣人多,山高林密,把群眾發動起來,我方到處是營壘,是戰場,是打擊日寇的生力軍,就能陷敵於滅頂之災。離開了民眾,隻身奮鬥,將一事無成。"青年們聽了,都很受啟發。
山西省政府主席趙戴文,是徐向前在太原國民師範讀書時的校長,此人當過南京國民政府的內政部長,是閻錫山的得力助手。他聽說徐向前回到了太原,專門約見敘舊,徐向前也欣然前往。趙問徐向前:"萬一太原失守怎麼辦?"徐向前說:"萬一守不住,就要事先炸掉小鋼廠、軍工廠之類的工業設施,不能留給日本人。要組織民眾,堅壁清野,把日寇困守在太原城內,逐步消耗和消滅他們。"趙點頭讚同,事後,還向閻錫山轉述了這個意見。趙戴文當時兼任山西省總動員實施委員會副主任,針對這一點,徐向前還著重談了組織群眾、武裝群眾的問題。他說:"現在雖然從省到村都成立了動員委員會,立了方案、章程,但實際上是采取抓夫、攤派的形式,強迫群眾挖戰壕、抬傷員、運送軍需品,這不叫組織群眾,也不符合動員委員會的要求。"徐向前向他介紹了紅軍的經驗,說:"組織群眾,要有真正的思想動員,要把群眾武裝起來,讓他們自己保衛自己。"趙戴文表示讚成這個意見,後來果真搞了一些"人民武裝自衛隊"。太原、臨汾淪陷後,這些"自衛隊"有相當一部分轉到八路軍中,成了堅持抗戰的人民武裝力量。
此後,徐向前又根據八路軍總部的指示,離太原去五台山區,派一個工作組去閻錫山的軍隊做統戰工作(當時,五台山地區也有從雁門關、平型關一線撤下來的閻軍)。當時正值閻錫山準備打忻口戰役。徐向前在小豆村、分懷鎮、東冶鎮等地,陸續會見了楊愛源、李俊功、田世俊、金憲章等閻軍軍官,講了些抗日道理和帶兵經驗。在小豆村,他與國民黨第六集團軍總司令楊愛源討論了雁北局勢。他對楊愛源說:"你們最好不要用那種死守陣地的消極打法,還是打遊擊戰,打到敵人側翼和後方去"。又說:"敵軍銳氣不可怕,可怕的是自己部隊沒士氣。部隊還是要有政治工作,多講一些"大日本皇軍"可以戰勝的道理,把官兵的士氣振奮起來。"楊愛源點頭稱是,說:"希望你們到山上走一走,也給弟兄們講一講。"