範築先是魯西北著名的愛國人士,時任國民黨山東省第六專區督察專員兼聊城縣長、保安司令,曾在馮玉祥的西北軍當過師長。在徐向前開進冀南之前,中共山東省委就已經派張霖之與他聯係,建立了統一戰線關係,並先後派去張維翰、張鬱光、張承先、齊燕銘、袁仲賢、任仲夷、朱穆之等數10名共產黨員,在該部工作。徐向前來冀南時,則把聯合範築先,將冀南與魯西北的抗日力量連成一片,作為八路軍推進冀南的任務之一。
6月中旬的一天,朱穆之陪同範築先來到冀南,徐向前特地組織了盛大的歡迎會。徐向前在會上致詞說:"範司令是山東的抗戰老人,他曾堅決拒絕了韓複榘叫他退到黃河南的命令,團結了魯西北的廣大民眾,組織了抗日武裝,建立了魯西北抗日根據地。範司令這樣的年紀,為了保衛民族的生存,不辭辛苦與敵人艱苦鬥爭的精神,是值得我們學習的。今後我們兩個抗日根據地,要親密的團結,加強聯防,合力打擊共同的敵人。"聽到徐向前這一番熱情洋溢的講話,範老先生心情異常激動。他在講話中慷慨陳詞,說:"我們過去是孤軍作戰,現在來了八路軍,有了依靠,今後不再孤軍奮鬥了。我們要親密配合,共同作戰,保衛神聖國土。"歡迎大會上,人們為兩位抗戰將領的精彩講話熱烈鼓掌歡呼,口號聲此起彼伏,氣氛熱烈而感人。
次日,徐向前和宋任窮、陳再道、劉誌堅等人同範老先生正式會晤,開誠布公,交換意見。雙方達成了互通情報,八路軍幫助範部培訓幹部,冀南歸八路軍駐防和魯西北歸範部駐防,以及互不收編對方防區的雜色武裝等協議。晚上,範老先生興致勃勃,與徐向前剪燭夜話,談得非常投機。範表示對堅持魯西北抗戰很有信心,並向徐向前請教遊擊戰的方法,徐向前便向他講了這方麵的戰術和發動群眾的問題。
範築先果然不負人民和八路軍的重望,最後,當聊城遭到日寇侵略時,範老先生誓與聊城共存亡,壯烈殉國。
冀南打開局麵後,中央又調徐向前到山東任八路軍第一縱隊司令員。山東敵後存在著敵、頑、我之間複雜的三角鬥爭關係,如何應付這種複雜的關係,也就成為戰爭指導者在用兵上要認真對待的一個大問題。徐向前十分注意把黨的統一戰線方針和策略貫徹到軍事鬥爭的實踐中去,區別對待各種政治勢力,巧妙地利用矛盾,爭取對我有利條件。麵對山東頑固派接連發動對八路軍進攻的嚴重事件,在打擊頑固派的同時,徐向前非常重視爭取和團結中間力量。於學忠是駐紮在沂蒙山區的國民黨魯蘇戰區總司令。他原是東北軍張學良的部下,與蔣介石有矛盾,又不願與蔣割斷關係;不反對八路軍抗日救國,但又怕八路軍發展壯大;在八路軍和國民黨之間持中立態度。對於這種中間派,徐向前認為是可以爭取的力量。於是他親自出麵,與於學忠談判,爭取說服他與共產黨、八路軍真誠地合作抗日。在談判過程中,圍繞政權問題,雙方針鋒相對,爭論了兩個多小時。徐向前提出共產黨要在根據地內建立政權,於學忠不讚成。經徐向前有理、有節地反複解釋,於不得不同意八路軍可以在根據地內搞政權,但又說要"合乎法律"。意思是要經過省政府核準與委任。盡管最後未取得一致意見,但因考慮到於學忠是我們的爭取對象,因此在談話中徐向前始終注意掌握分寸,留有餘地,求同存異,避免把關係搞僵。這次接觸後,徐向前在向毛澤東等領導人的報告中這樣評價於學忠:一般問題經解釋後,尚不壞,於仍站在第三者的立場,但思想太舊,與沈鴻烈有矛盾。
由於徐向前對於學忠的團結和爭取,使其在八路軍和國民黨頑固派之間保持了中立立場。麵對八路軍到處建立抗日民主政權,於學忠睜一隻眼閉一隻眼,因而與其避免了更多的磨擦,對山東抗日根據地的建立和鞏固起了重要作用。1940年,毛澤東給徐向前通報消息說:"重慶來電稱,山東方麵於學忠始終沒一電來攻擊和告發我們,頑方頗不滿,最近似加強對於之壓力,故有小磨擦雲。於已成東北軍之孤臣孽子,處境艱困。對於應極力爭取,於我有利。"
為了爭取山西地方實力派閻錫山的抗戰,徐向前根據黨中央和毛澤東的指示,在洛川會議後,跟隨周恩來在嶺口、太原、大同等地,參加了中國共產黨同閻錫山的談判等活動。在談判前,徐向前協助周恩來作了大量的準備工作。徐向前與閻錫山是山西五台同鄉,很清楚閻錫山的曆史。他向周恩來提供了閻的一些情況,認為,閻錫山對付共產黨的手腕,不亞於蔣介石。周恩來很重視徐向前的意見,在談判中,否定了閻錫山要一二九師在忻口正麵堵擊敵人的意見,表示隻能在敵側後協同遊擊。