不過，張作霖畢竟首次介入中央事務，他感到自己在這方麵沒有多少經驗，尤其是對去秦皇島劫械一事，他不能不考慮成功的可能性有多大。為了弄清此舉是吉是凶，張作霖在行動之前，特地把奉天有名的算命先生包瞎子請到帥府，卜了一卦。張作霖很迷信，每遇大事不能決斷時，都要請包瞎子卜卦，故包瞎子實際上成了張作霖的“特別顧問”。張作霖每月都要付二百元錢給包瞎子，作“顧問”費。
包瞎子來到帥府後，張作霖便迫不及待地從包瞎子的卦筒裏取出幾枚古錢，然後讓包瞎子趕快“算算”吉凶。包瞎子埋頭念念有詞地掐算了好一陣，才慢吞吞地說，這是上上大吉的卦。張作霖一聽來了神，要包瞎子趕快解釋吉從何來。包瞎子說道：“‘兌’像澤像民，卦上的‘兌’說的就是您老的雄兵猛將和黎民百姓。君在上，民在下，何往而不勝？大帥要添槍添炮，增兵增將了。我包瞎子先向您老祝賀。”張作霖聽他說得很神，請他進一步指明方向。包瞎子又閉目掐算了幾秒鍾，答道：“事在西南，澤乃水，在西南的水上。”啪！張作霖拍案而起，大嚷道：“好你個包瞎子，說得真準！秦皇島不正是在西南嗎？海就是水，輪船可不是在水上嗎？事成之後，我張作霖定要用重金酬謝。”張作霖還真以為包瞎子神機妙算，他壓根兒不知道，那包瞎子進了帥府後，已通過他在帥府的內線將張作霖的心思打聽得清清楚楚，號準了脈才說得有板有眼，像真的一樣。
張作霖不再猶豫，立即派張景惠帶兩個營和一個機關槍連，偕奉天軍械廠廠長丁超，於1918年2月中旬前往秦皇島劫械。
這批槍械是北洋政府向日本訂購的，此時已用輪船從日本運到秦皇島，正在卸貨，向中國方麵移交。馮國璋也派了人在秦皇島接貨。張景惠以“南征”為名，率部到了秦皇島後便住了下來。他們每天與馮國璋所派的接械人員混在一起，吃喝嫖賭、花天酒地，讓對手漸漸放鬆了戒備。2月25日，中日雙方將軍械點交清楚，全部裝上火車之後，張景惠突然帶兵將車站包圍，勒令站長將裝運軍械的火車改變方向，開往奉天。馮國璋部下見寡不敵眾，不敢頑抗。就這樣，張作霖在徐樹錚的幫助下，成功地將這批槍械全部劫為己有，其中有大炮、步槍、機關槍，還有其他武器，合計約三萬餘件。後來，張作霖就利用這批武器擴軍，增編了七個混成旅，並建立了以張景惠為師長的“暫編第一師”。奉係軍閥的實力因此大大增強。
秦皇島劫械轟動了全國。馮國璋控製之下的北京政府要求張作霖將所劫槍械如數交還北京，張作霖當然不予理睬，製造出種種借口，一會兒說因“南征”需要，為減少周轉時間，隻好先留用後報告；一會兒說槍械本屬國家，誰都可以用，奉軍當然也有權使用；還說袁世凱當政時，中央向東北借過武器，至今未還，此批槍械正可償還等等。總之，他和北京耍起了賴皮。馮國璋奈何不了他，最後隻能不了了之。
劫械之後，徐樹錚立即專程從北京去奉天，與張作霖商談進一步合作的問題。他以在未來總統選舉中推選張作霖當副總統為條件，要求張作霖迅速出動奉軍“南征”，以武力作為恢複段祺瑞內閣的後援。剛從秦皇島劫械嚐到甜頭的張作霖慨然應允。不過，他同意調奉軍入關參加“南征”，並非真要同南方軍隊作戰，而是打著自己的小九九。張作霖想的是：一方麵以武力支持段祺瑞；另一方麵則借此提高自己的地位和權力。即使當不上副總統，也起碼可撈個“東三省巡閱使”的頭銜，為他做東北王打基矗
和徐樹錚達成協議後，張作霖一方麵命令張景惠率先遣隊立即從廊坊進駐北京近郊豐台，一方麵加緊調集後續部隊進關。在調兵遣將的同時，張作霖又致電北京政府，要求恢複段祺瑞內閣及設立東三省巡閱使，等等。接著，張作霖又在京奉線上的軍糧城設立了南征奉軍總司令部，由他本人親任總司令；任命徐樹錚為副總司令，負責全權指揮南征奉軍，任命楊宇霆為參謀長，丁超為參謀副官。該總司令部轄有第二十七、二十八、二十九師主力及新編的混成旅各部，共5萬人左右。
在張作霖大軍壓境的形勢下，代理總統馮國璋等人終於被迫作了讓步，同意段祺瑞重新組閣。1918年3月23日，新的段祺瑞內閣正式組成。這是段祺瑞的第三次複出。為了支持複職的段祺瑞，張作霖命南征的奉軍陸續南下，開赴湖南、湖北、河南、陝西等省，擺出了與南方軍隊大戰一場的架勢。
段祺瑞第三次組閣，是徐樹錚拉奉反直的成果，徐以段閣後台自居。這時的徐樹錚野心很大，想做直隸督軍，以控製北京政府，把直隸督軍曹錕升為兩湖巡閱使兼湖北督軍。不料，消息傳出來，曹錕認為是調虎離山，因此消極起來，要從前線撤回直軍。前線總司令吳佩孚也電請調回直隸休整。張懷芝率領的第二路軍在湘東被南軍打敗，又怕他的山東督軍被人搶走，堅持要辭職。前方戰事又陷入停頓狀態。由於主戰派的兩個大將不聽調動，徐樹錚打算單獨依靠奉軍，停止援川計劃。在漢口設奉軍前敵總指揮部，把奉天六個混成旅擺在湖南戰場上。5月9日，徐樹錚不經張作霖的同意，擅自以奉軍副司令的名義，調第二十七師師長孫烈臣、第二十八師師長汲金純、第二十九師師長吳俊升到長沙布置奉軍入湘作戰。這個行動引起了張作霖的極大反感。張作霖不能容忍徐樹錚這種獨斷專行的行為，公然視奉軍為己有而任意調動，張作霖召回了三個師長，並且借口邊防吃緊，要調回已經開到湘東的奉軍。
這時，陝西督軍陳樹藩向段祺瑞致電告急，陝西民軍的聲勢日益強大，臨潼被民軍占領，西安岌岌可危。1918年3月，段祺瑞派鎮嵩軍統領劉鎮華由河南率兵“援陝”，才打通了西安到臨潼的交通線，劉鎮華被任命為陝西省長。陳樹藩又率兵進攻民軍，在固市被圍，突圍後退守新市，因此，段祺瑞又商請張作霖派奉軍一個旅援陝，張任命許蘭洲為援陝司令，率領一個旅開往潼關。
6月13日，各省督軍和督軍代表在天津召開會議，討論總統的問題。主和派幕後活動者陸建章從上海來到天津。陸是陸軍上將、原陝西督軍、直係重要將領。馮國璋利用陸建章說服曹錕重回到直係這邊來。把天津會議變成有利於馮、不利於段的局麵。皖係早已把陸建章當作危險人物，陸到天津後，徐樹錚寫信請他到奉軍司令部一談，陸建章自恃為現任將軍，又是北洋派的前輩，沒有懷疑徐會下毒手。14日，陸去奉軍司令部，徐樹錚請他到花園密室談話，被徐的衛士將陸擊斃。徐將陸建章打死後，立即指使國務院秘書長方樞擬一道命令，內稱：“前據張懷芝、倪嗣衝、陳樹藩、盧永祥等先後報稱：陸建章近在山東、安徽、陝西等處勾結土匪，煽惑軍隊，近複在滬勾結亂黨。茲據奉軍副司令徐樹錚電稱，陸建章由滬到津來營煽惑，當經拿獲槍決等語。陸建章著褫奪軍官、軍職、勳位、勳章，以昭炯成”。此道命令送馮蓋印，嚇得馮心驚膽戰，被迫蓋印發表。一個高級軍官槍殺現任將軍這是駭人聽聞的凶殺案。善有善報，惡有惡報，1925年徐乘專車由北京去天津，途經廊坊，馮玉祥指使張之江將徐樹錚殺害，此是後話。張作霖聞知徐在奉軍司令部槍殺陸建章非常不滿，致電指責徐利用奉軍司令無辜殺人。
7月31日，督軍和督軍代表們又在天津開會，討論總統和南征問題。曹錕、張懷芝、張作霖、徐樹錚、倪嗣衝、田中玉、龍濟光都親自參加了會議。在討論總統問題時，張作霖建議徐世昌為大總統、段祺瑞為副總統。據《曹汝霖一生之回憶》中張作霖對徐、段二人的評價，“對合肥（段祺瑞）謂，他雖有剛愎之性，但用人不疑，對人誠實，不用權術，故門生故舊人才眾多，無一不樂為之用，……對東海（徐世昌）則謂，有容人之量，而短於現代之才。他的學問深，但理論不切於時勢，也許我們沒有他的學問，故不易了解。”張作霖是不甘居人下的人，徐樹錚在要張派兵進關時，曾許願給張可以當副總統。所以張也想當副總統。現在，徐樹錚通過倪嗣衝的嘴，建議副總統暫時不做決定，留待對南方作戰有功者居之。徐樹錚又許給曹錕做副總統，這樣一來，曹錕覺得皖係說話不算話，以前隻要求他不反對對南方作戰，並不要求他親自出馬，現在又變卦了，如果不親自出馬，那麼，副總統就當不成了。
在對南作戰問題上，張作霖建議以奉軍為各路戰線的總預備隊，隨時可以開到需要增援的地方，各省軍閥則要求以奉軍為前方主力，這個問題也沒有解決。
這次天津會議，雖然有張作霖參加，而且各方重視，但是什麼問題也沒有解決。會後，張作霖留在天津。張景惠向張密報：從3月25日段內閣複活起，徐樹錚代領奉軍軍費550萬元，奉軍實收到180萬元，其餘370萬元被徐樹錚用在編練參戰軍和安福國會選舉上了。經查確有此事。張作霖對徐樹錚擅自調動奉軍和在奉天司令部槍殺陸建章早已心懷不滿，現在又查出他挪用奉軍的軍費建立皖係的軍事武裝，張作霖怒不可遏，立即解除了徐樹錚的奉軍副司令的職務，由孫烈臣接任，並且要和徐算賬。奉軍參謀長楊宇霆也受了牽連，知情不報，也免去參謀長職務，楊不敢回奉天，在北京賦閑了三年。段祺瑞知道此事，立即要徐向張作霖認錯，並保證在短期內歸還這筆款項。至此，張作霖和徐樹錚的政治合作宣告結束。
張作霖並非真的想同南方軍隊真槍實幹。他雖然嘴上高喊支持段祺瑞政府的“武力統一”，但並不是真心實意為之效力。在撤了徐樹錚職務之後，張作霖對派奉軍南征似乎也有些後悔了。由於他一直高唱主戰的調子，言猶在耳，一時不便改口。為了找借口撤軍，他開始大造中俄邊境形勢日趨緊張的輿論，同時，又向北京政府提出一係列對方難以接受的條件，如大批補充南征奉軍的軍費和武器裝備等。
在張作霖與徐樹錚發生衝突之後不久，所謂的新國會選舉和總統選舉基本結束。 北洋派老官僚徐世昌成為各派妥協的產物，當選為新總統，而有心想當總統的段祺瑞，卻不得不和馮國璋一起下野。副總統一職因各派達不成協議而暫時空缺，張作霖的“副總統”夢也因此化為泡影。 北京政府為了安撫張作霖，於1918年9月5日宣布特任張作霖為“東三省巡閱使”。這個“巡閱使”雖然不及“副總統”榮耀，但有總攬東三省兵馬的大權，張作霖還是比較滿意的。
不久，張作霖心滿意足地帶著新鑄造的官印回到奉天，同時以抵抗蘇俄的赤化為由，將南征的奉軍悉數撤回關外。1918年底，張作霖又在奉天督軍署召集奉天省文武官員，舉行東三省巡閱使的就職典禮。
張作霖第一次卷入北京中央政府事務和奉軍第一次入關，雖然沒有完全達到目的，卻也收獲頗豐。除了撈到不少槍械和“東三省巡閱使”的官銜外，他還從中嚐到了參與全國性事務的甜頭，積累了寶貴的經驗，為他以後多次染指關內奠定了基矗不過，這次入關也出現了張作霖未曾想到的新情況，即引起了日本的不滿。
日本之所以決定支持張作霖，是希望他在東北保護日本的侵略利益，並不是要他插手關內和全國的事務。在北京政府裏，日本主要支持段祺瑞和通過段祺瑞的皖係為自己效勞，無須張作霖插手。日本甚至擔心，張作霖染指關內，有可能牽連東三省，導致東三省的不穩定進而有損於日本的侵略利益。1918年底，日本不但一再敦促奉軍撤回關外，而且向張作霖正式發出了不可插手關內事務的警告。日本駐奉天總領事赤方正助向張作霖提交的一份警告說：“東三省與日本有密切關係。有責任維護東三省和平秩序的人擅離職守，還把他的軍隊派到中國中心地區，這是不必要的。這個事實可能既妨礙了中國的統一，也與維護東三省的秩序相抵觸。我敦促您製止此類舉動。”從這份警告可以看得很清楚，日本是將張作霖看成對日本有著特殊利益的東三省的看門人，不允許他好高騖遠。可是，張作霖卻不甘心獨居關外，他要以東三省為基地，向全國範圍滲透擴張奉係勢力。盡管在許多問題上，張作霖與日本達成一致，互相勾結和利用，但在這一點上，雙方觀點南轅北轍。
對於日本的警告，張作霖當時既未反駁，也未接受，暫作冷處理。他一方麵繼續盡力討好日本人，一方麵依然我行我素。
張作霖撈到個“東三省巡閱使”的封號，名義上成為整個東北的最高統治者，但實際上並沒有完全成為“東北王”，因為吉林省還處在半獨立狀態，但回過頭來收拾孟恩遠，徹底吞並東三省的時機已經成熟。
1919年6月，張作霖向吉林起事。首先唆使吉林士紳何守仁等，分別向北京政府及東三省巡閱使控告孟恩遠在吉林縱兵殃民，歸納出所謂的八大罪狀。接著，張作霖一方麵以東三省巡閱使的名義發文給孟恩遠，指責他擅自招兵買馬，致使吉林紙幣貶值，財政發生混亂，要孟恩遠辭職；另一方麵又將吉林士紳的所謂告狀信轉給北京政府，請求將孟恩遠免除職務，任命自己的部下、二十七師師長孫烈臣繼任吉林督軍。
北京政府當時仍在皖係軍閥的控製之下，對於張作霖的請求，雖不敢不作考慮，但又擔心按張作霖的意思撤換吉林督軍，會遭到吉林的反抗，北京又難以用強力迫使吉林就範，令出而不行，有損於中央政府的威信。更重要的是直係軍閥，尤其是掌握好幾個省實力的直係將領強烈反對更換吉督，北京政府不得不慎重對待。 北京政府先請與東北有過關係的元老趙爾巽和張錫鑾出麵，專門到關外進行調解，希望能找到一個可行的折衷方法。然而，趙爾巽和張錫鑾抵達奉天後，張作霖表麵上裝出無所謂的樣子，暗中卻向他們施加壓力。反觀吉林方麵，也不肯作出任何讓步。孟恩遠說：“我雖年老，對前途無大奢望，但要我在某方麵的壓力之下辭職，這是斷然辦不到的，我有一師和五旅親兵，自信還有點抵抗力。”如此針尖對麥芒，調解自然是毫無效果的。