以前的矛盾就不說了，這次當聽說徐樹錚在天津奉軍司令部誘殺陸建章後，張作霖自己都徹底暈了，他想過徐樹錚蠻不講理，但沒想到他居然混蛋到這個地步，再讓他在自己的奉軍裏折騰下去，大家都得陪著他去死了。本來表麵上維持著與皖係的合作，對徐樹錚還持隱忍態度，現在通過西北官製案，徐樹錚把他的權力之手伸到了內蒙，這已經嚴重侵害到了他的利益。是可忍孰不可忍，張作霖迅速下令，撤掉了徐樹錚奉軍副司令的職務，並且通告天下，奉軍一切軍務再與他姓徐的沒有任何關係。
得罪了徐樹錚，也就是得罪了段祺瑞，張作霖心裏很明白，奉直聯合反皖勢在必行。
和談的鬧劇
徐世昌利用直皖二係之爭當上了大總統，為確立自己文人總統形象，並鞏固地位，他決定利用國際、國內的和平呼聲，積極籌措南北和談。
徐世昌倡導南北和談並不是空穴來風，還是有一定基礎的。首先，國內人民十分渴望南北統一；南方的軍閥們也多數希望通過和談實現統一；北洋係中的直係也希望和談。當然，最不希望和談的還是皖係勢力，尤其以安福係為代表，但天下和談聲浪滔滔，他們又不敢公然跳出來反對。但他們絕不願意和談成功，因為和談成功後，徐世昌的地位將比較穩固，不能再多受安福係的指揮；而直係是早與西南軍閥有聯絡，自然將占據上風。可以說，和談成功就是安福之失敗，尤其是懷有野心的徐樹錚更是不甘心於此。有安福係的破壞，和談注定不能成功。事實上，這次南北和談從一開始就吵吵鬧鬧，紛爭不停。
首先是開會地點。北方主張在南京開會；南方總代表唐紹儀主張在上海租界內開會，意思是不能在軍閥包圍之下開會，因為當時的南京是在直係軍閥李純管轄之下。最後雙方決定以上海的舊德國總會（俱樂部）為會場。南方代表住愚園路九十號，北方代表住哈同花園。
關於會議名稱，雙方也意見不一致。北京政府以安福係為代表的一開始就反對對等議和，主張該會議稱“善後會議”；南方認為這是清代在招安地方土匪時才用善後字樣，提議稱“上海會議”。彼此磋商，最後都未達成共識，於是，各叫各的。北方稱“南北和平會議”；南方稱“上海會議”。
總代表的人選問題上亦有一番爭議。北京總代表先是李純，但李純是直係人物，徐樹錚非常討厭他，他希望的人選是王揖唐。但王揖唐是安福係首腦，全天下都知道，也不太公平，徐世昌便請出自己的老朋友朱啟鈐為總代表，而唐紹儀做了南方總代表。
段祺瑞本人也是反對這次和談的，徐樹錚便安排吳鼎昌專做破壞之事。
徐世昌早就明了這一點，於是他略施小計，在會議醞釀期就派徐樹錚去日本觀操，也就是調虎離山，以免徐在國內興風作浪，破壞和談。小徐無可奈何，勉強去了日本，但很快就回國了。無論如何，南北和談總算在1919年2月20日上午9時召開了。
此次南北和談計劃討論陝西問題、中日軍事協約問題、湖南問題、國會問題、出席巴黎和會代表人選問題等，開始時還算順利，雖然軍閥們免不了為了各自的私利斤斤計較，但總算大家都是出來混的，彼此的底線在哪裏基本都心中有數，哪些問題能解決，哪些問題注定要糾纏下去，不用開會大家都明白，因此吵架歸吵架，會議的議程還是一直在進行。但是在討論陝西問題時，雙方態度直接對立，最終導致和談擱淺。
所謂陝西問題，就是1918年初，胡景翼等在陝西宣告獨立，擁護“護法”。同年6月，孫中山派於右任入陝宣慰軍民。8月，於右任被推舉為陝西靖國軍總司令。段祺瑞隨即派軍圍攻陝西靖國軍。1918年11月16日，徐世昌下令停止戰事，11月23日，南方軍政府也下令各守原防，靜待後命，為南北和談創造條件。安福係的陝西督軍陳樹藩拒不聽命，說他是在“剿匪”，不是打南軍，剿匪不包括在停戰範圍之內，雙方軍隊繼續有衝突。南北和談時，南方總代表唐紹儀提出撤換陳樹藩，否則和談不能進行。北方朱啟鈐則以當地真相不明為由，要求將會議繼續下去。
陝西問題沒有解決，國會問題又成了矛盾的焦點。“國會問題”是南方提出要由此次和會宣布前總統黎元洪1917年6月13日的命令無效（指張勳威迫下令解散國會），恢複原國會。這就涉及徐世昌本人地位和北方安福國會是否合法的問題了。徐世昌本希望和談成功，現在國會問題一提，徐世昌和段祺瑞等就有了共同利益，目標一致了。於是徐世昌的態度突然來了個180度大轉彎，明確支持段祺瑞的武力統一說。