還有在武昌起義時，清廷東三省總督趙爾巽，嚇得麵無血色。張作霖通過關係趕緊跑來安撫這位總督大人，借此尋找靠山。1912年元旦，孫中山在南方被推選為大總統，袁世凱表麵議和，背地裏卻密令北洋軍閥通電反對，給張作霖、聶汝清發電，鼓勵他們和革命黨人作對，還送來了軍需物資。張作霖的觀望態度一下就打消了。此時，袁世凱已經接受共和，但為了絞殺革命，加快實現帝製夢想，遂對革命黨人下手。張作霖不甘旁觀，他舊部多為馬賊、胡子，頭腦簡單，又善於交友，講義氣，很多革命黨人也正是想利用這些人。張作霖利用部下這些特點，摸清了很多革命黨的活動，最後的目光落在一位叫張溶的身上。張溶是富家子弟，到日本留過學，是同盟會會員，一直在奉天活動，目的在於鼓動東北新軍響應南方的起義，也發展了一些會員。他有一個忘年之交叫袁金鎧，可這人已經被張作霖收了。張溶富於幻想，對其失去了戒心。
1912年12月，袁金鎧對張溶說：“你看張作霖雖然出身土匪，可我看他不像那些讀書人，心裏沒鬼，你不妨找他談，摸摸他是怎麼想的。”張溶也沒多慮，便同袁金鎧叫上張作霖去了飯館，席間，那兩個人一通給張溶灌米湯，張作霖說：“俺聽說蜚紅館來個叫小桃的姑娘，很是美豔，二位也該去看看的。”張溶想那張作霖出身山匪，有些不良習氣，如果到那種地方，有些話可能更好講一些。到了蜚紅館，袁金鎧借故走開，張作霖對張溶說：“俺出身草莽，今天聽到老兄這番話，真是萬幸，不知世上還有這些道理。”張溶心裏也很高興，覺得拉上這樣一個有勢力的同誌，對革命更有意義。他哪裏知道，兩隻槍口正對著他，不一會兒，張作霖也出去了，張溶等了會兒，不見他回來，正要起來問個究竟，隻見闖進兩個大漢，一陣亂槍，將他打個血肉模糊。這兩個打手，都是張作霖手下的人，一個叫高金山，一個叫於文甲。張溶死後，張作霖馬上抄了他的家。同天被殺的還有“聯合急進會”的秘書、革命黨人田亞賓和張溶的好友寶昆。此後數日，張作霖在奉天大施恐怖手段，見到剪去發辮或所謂行跡可疑的人，不是殺頭就是關監牢，將此行戲稱“殺禿子”。張作霖此舉深得趙爾巽賞識，為其請功說：“該統領不動聲色，即連斃三凶，實足以快人心。”袁世凱封其為“關外練兵大臣”，其部改為二十四鎮，張作霖為該鎮師 長。他得到袁世凱的注意，膽子也越來越大，開始幹預全國政事。
等到張作霖敢趕走巡撫段芝貴時，已是羽翼豐滿。他身後有富庶的白山黑水，有強硬的日本帝國，其地盤成犄角勢，鼎足於直、皖。
袁世凱活著時，打心裏也不高看張作霖，拿他當個愛占便宜的馬賊。有一次，張作霖到北京袁世凱府上，聊著聊著，也不知怎麼就看上袁世凱古董架上的一個小鼻煙壺，邊說邊把玩，就是不願放手。袁世凱說：“想不到行武出身的雨亭（號），也喜古玩。”袁世凱的話一出，張作霖倒有些不好意思，才想起來這樣做有些不合適。袁世凱接說：“雨亭要是喜歡這個小玩藝，就拿去好了。這也是宮裏的，說起來倒是個寶貝。”張作霖表麵是接受了，心裏可老大不情願，他拉杆子綁肉票，什麼寶貝沒見過，這麼一弄不是讓大總統給看低了嗎?實際情況還真是如此，袁世凱曾對段芝貴說：“東北的張作霖，是個沒見過台麵的鄉巴佬，到我這裏好沒規矩，不過，這種人你得順著來，給點小便宜。”段芝貴聽後，心領神會。段芝貴是安徽合肥人，字香岩，1886年入北洋武備學堂，畢業後留校任教，不久去了日本。他是袁世凱的心腹，袁世凱為了搜羅黨羽，給段芝貴運動黑龍江巡撫的職位，不惜花十萬重金，在天津買了一個叫楊翠喜的演員，送給慶王奕劻之子農工商部尚書載振。後來事發，各報競相轉載，段芝貴被迫辭職。
段芝貴是留過洋的，對已經轄製奉天的張作霖也死看不上眼，再看東北兵個個拎著大煙槍，匪氣十足，為些事他還專程找過張作霖，那張作霖說：“啥個他媽了個巴子的，俺的部下，個個都是好樣的，我一聲令下，攻無不破。”
段芝貴說：“你不要輕視士兵的教育，得讓他們明白為誰打仗吧。”
張作霖剛想道出是為了自己，以為不妥，改口說：“為了袁大總統，你是不是就愛聽了。”
段芝貴用鼻子哼了口氣說：“真是的，打了十幾年的仗，連自己的兵為誰死都不知道。”
張作霖說：“你他媽的少在這裏說三道四，跑到這裏來幹啥來了?”
段芝貴到底有點秀才氣，他說：“我是奉命而至。”
張作霖說：“奉啥命，我叫你給我滾回北京去，你就得給我滾。我還順便問問，天津衛那個叫楊萃喜的小婊子可好，你啥時也給俺老張搞一個。”
張作霖連損帶挖苦，把個段芝貴氣得七竅生煙，就這樣，生生把北洋派的元老段芝貴給罵了回去。張作霖手下湯玉麟、張景惠和金壽山等，也弄不清他這樣是為什麼。轟走段芝貴，張作霖是醉翁之意不在酒，看他表麵大大咧咧，心相當細，念過幾天私塾，報紙的文章也能看得下來，按他的話說，得想辦法保存自己的勢力。他早就想獨霸東三省了，此時正是好時機。張作霖要比他的弟兄們聰明，表麵上他不得罪袁世凱，心裏知道他是兔子尾巴長不了的。這些心裏話，張作霖是不能和自己手下人說的。驅逐段芝貴，是給南方看的，這樣自己表麵上響應了南方的倒袁號召，又給自己將來的霸業鏟除了障礙，是個一箭雙雕的舉動。此刻，張作霖可不亂殺無辜，對一些有激進思想的人也盡量網開一麵。多年做土匪的緣故，使張作霖養成一種敏感，現在不能大動幹戈，是觀潮的時刻。
直、皖、奉的軍閥割據局麵，已經形成。
北京的現政府，在袁世凱咽氣後，又開始新一輪的奪權活動。按照資曆，北洋派段祺瑞、徐世昌和馮國璋三人是最有競爭總統實力的人物，可南北的新舊法約有一點是共同的，暫時還得由副總統黎元洪承繼臨時大總統。黎元洪住在北京的東廠胡同，聽說袁世凱死還不信，派自己女兒探一番虛實，確證後，打發下人給袁府送去十萬塊錢。黎元洪出手如此大方，是有根據的，他和袁世凱本是姻親，東廠胡同那座大院，正是袁世凱花十萬塊錢買來送給他的，因風聲早已經出去，袁世凱一歸西，政敵也都瞅著，他正好借此機會大搖大擺送去十萬塊錢，算是把這事給擺平了，堵住別人的嘴。段祺瑞生怕夜長夢多，控製不了北京的局勢，讓黎元洪就在東廠胡同就職臨時大總統。
同時，南方的孫中山、唐繼堯等，也發出通電。黎元洪像個熱鍋上的螞蟻，還有好些省市獨立著，如不馬上表態，後果很難設想，可段祺瑞老奸巨滑，有兵有權，他明為總統，日子也不會好過。這邊，準備袁世凱大殮，家人為穿海陸軍大元帥戎裝還是、帝製甲種禮服，正，鬧得不可開交，雖然袁世凱臨咽氣時都囑托給徐世昌，但有人還是希望臨時大總統黎元洪發表意見。