張作霖每每發脾氣或與人爭執，張夫人便派人請張作相去調解。隻有張作相的勸說，他才聽得進去。奉係其他首腦間或家庭中出現糾紛，也常常是張作相出麵斡旋。
張作相為人最忠厚，常常在別人危難時給人以誠摯的幫助，所以，在奉係軍中素有“忠厚長者”之稱，人們稱他“老少和得三班”。後來奉係中出現老派與新派的矛盾，他本是老派的人物，因為為人公平，不亂說新派的壞話，積極主張兩派團結，表現出待人寬厚的胸懷，所以深得新派人物的好感。在新派老派矛盾重重的動蕩局勢中，他是惟一能出來穩定局勢的關鍵人物。
1928年6月4日，發生皇姑屯炸車事件，張作霖、吳俊升一同殞命，奉係將領一時群龍無首，人心惶惶，急需確定新的首領。當時新派老派雖各有主張，但在許多人心目中，張作相是最合適的人選，所以，張學良尚未回到沈陽的時候，曾公推張作相為東三省保安司令，並將公推書和印信送到張公館。張作相堅決不受，說等張學良回來後再從長計議。
張作相一直把張學良視為少主。早在1920年張學良從東三省講武堂畢業時，他就向張作霖建議接替他兼任的巡閱使署衛隊旅旅長的職務。1921年，他又攜張學良去日本，參觀日本陸軍秋操，以期激發張學良立誌圖強之心。此時，他惟一的願望就是輔佐張學良子承父業。
張學良兼程趕回沈陽後，除著手辦理喪事外，還召集東北元老開會，研究接代張作霖的問題。張學良以自己年輕，極力推張作相統轄東北軍政大權，並派人送去東三省聯合會的公推書和印信。張作相堅決不受，一定要張學良子承父業，而他願盡輔佐的責任。張學良在張作相等人的堅決擁戴下，終於名正言順地掌握了東北的軍政大權。
張學良與張作相的關係一向密切，他早年稱張作相為老叔，他當上東三省保安司令後，又改稱為輔帥，此時，又讓原配夫人於鳳至做了張作相第二個夫人花福田的幹女兒。當時花福田因為自己隻比於鳳至大十幾歲，不敢答應，張作相說：認就認吧，這也是學良的主意。這樣，兩家的關係就更加密切了。
張作相默默地竭盡全力輔佐張學良盡快穩定東北局勢。盡管他對蔣介石的南京政府曆來不信任，但對張學良的易旗主張不提半句不同意的話，而是大力支持。在東三省議會聯合會上，領銜聯名向南京政府宣布服從國民黨的領導。
東北“易幟”雖然實現了，但東北軍內部的思想並不完全統一，楊宇霆、常蔭槐等人有覬覦張學良地位的嫌疑，日本帝國主義又不斷向東北集團內部伸出黑手，製造派別糾紛，企圖形成內亂，使“易旗”成果付之東流，這使張學良格外憂慮。1929年1月10日深夜發生了張學良處決楊宇霆、常蔭槐事件。就在這天半夜裏大約十二點半左右，張學良派人請張作相來商量善後事宜，張作相說：辦了就辦了吧，隻是要好好辦好二人的後事，以安楊、常左右。張學良依計而行。
1930年9月率東北軍進關，張作相任東北四省留守司令駐在沈陽大帥府，主持東北後方的一切事務。1931年“九·一八”事變時，張作相因父親去世正在錦州西郊料理喪事。當時，張作相不相信日本能吞並東北，認為隻要像皇姑屯事件時那樣沉得住氣去應付，就可以依靠“國聯”的力量抑製日本，迫使日本撤兵。他曾對前去吊喪的何柱國等人說：日本無論如何吞不下東北，東北總歸是我們的，大家不必擔心。這幾句話可以代表當時東北軍大多數高級將領的態度。誰知事態的發展並不如他們想象的那樣簡單。
“九·一八”事變時，張作相的吉林省主席職務由參謀長熙洽代理。熙洽是清朝皇族的宗室，1911年，張作相在奉天講武堂受訓時，熙洽是教官，張作相很尊重他。張作相任吉林督軍後，任熙洽為參謀長，對他十分信任。而熙洽暗藏複清思想，加上他留學日本，與日軍師團長多門二郎有師生關係，素有親日思想，所以，“九·一八”事變後，熙洽趁張作相不在，以代理長官名義出賣了吉林，由複辟狂變成了賣國賊。
張作相對熙洽的所作所為十分憤慨，遂電令在吉林的軍政人員不要聽從熙洽的偽令，並委派誠允到賓縣組織臨時政府，與熙洽漢奸組織相對抗，但已無可挽回。一年後，吉林省全部為日軍所占領。可以說輕信和錯用熙洽是張作相政治生涯中的最大失策。
“九·一八”事變後，蔣介石實行“攘外必先安內”的不抵抗政策，嚴令東北軍不準抵抗。侵華日軍輕而易舉地占領了東北全境，接著又向關內逼進。1933年初，日軍進犯熱河，威脅平津，迫於全國強大輿論的壓力，蔣介石不得不抽調部分軍隊加強長城一線的防衛，任命張學良為第一集團軍軍團長，張作相為第二集團軍軍團長，開赴承德及密雲和古北口一帶。但蔣介石仍舊實行“一麵抵抗一麵交涉”的政策，加之各派軍人號令不一，長城抗戰終於失敗。蔣介石卻把責任推到張學良身上，逼張學良下野。張學良回到北平後，立即給張作相打電話，說明蔣介石逼他下野的情況，並說：您老也馬上來吧。就這樣張作相在1933年退出了軍政界。