每當他看到周圍這幾位天天雍容進退的大臣的時候，就會想起千載而上孔夫子的議論責備，他的兩個在魯國權臣季康子家中當家臣的冉有和子路“危而不持，顛而不扶，則將焉用彼相矣？”就是看到所輔佐的人身處險境卻不去幫他一把，還用這些“相”幹什麼呢？張居正深深感到處在這個有責任的地位而不切實負責，隻會眼睜睜地瞅著政權傾覆，孔子還提出質問：“虎兕出於匣，龜玉毀於櫝中，是誰之過與？”猛獸從籠子裏跑出來，寶貝在櫃子裏被毀掉，是誰的過錯呢？張居正凜然感到這些負責任者的重要，他感到一切都是自己的責任，很清楚地意識到自己任重而道遠。所以，他決心力挽狂瀾以圖帝國之中興。
安定邊防
從明朝開國到張居正時代，最大的隱患恐怕就是北方的韃靼。正統十四年英宗出征，被韃靼人包圍，大軍數十萬遭到殲滅的命運，明皇帝也成了俘虜。於是明帝國的首要策略就是修築北方邊牆，這就是明萬裏長城，是當時的國防工事。對於明朝當時的邊防而言，薊州無疑是一個重要的軍事地段。之前，北京的外圍還有幾重的保障，自從明成祖放棄大寧，整個明朝國防的重心就落到薊州這裏。到嘉靖年間，明帝國和韃靼還維持著一種貌似和平的局勢。
隆慶元年（1567年）9月，俺答進入大同，烽火照遍山西的中部。同時還要進犯薊鎮，擄掠昌平、盧龍直至灤河。整個北京陷入戰爭的恐慌之中。有大臣舉薦譚綸、戚繼光。從此戚繼光被封為神機營副將，隆慶二年五月，奉令總理薊州、昌平、保定三鎮兵事。譚綸也到北邊練兵，居正和他們結下深厚友誼。隆慶六年，張居正當國，譚綸入為兵部尚書，直到萬曆五年四月病故；戚繼光鎮守薊州十六年，直到張居正病故以後方調往廣東。二人到任後，首先就是練兵，所有其他的布置，張居正是苦苦維護，戚繼光鎮守薊州十六年當中，雖然沒有赫赫戰功，但是整個北邊從此安寧，這是戚繼光的大功，當然也是張居正的大功。
戚繼光上任後，強烈要求改革薊州軍備的想法得到了內閣大學士張居正的賞識和支持。無論有什麼計劃，隻要寫信給張居正，很快便有答複。即使一時之間難成定論，張居正也必定親自修書闡明個中幽微原委，仔細詮釋一番。張居正對於北部邊境的關心可謂無微不至。
有人理解和支持，戚繼光如虎添翼，幾年之內，整編防區，訓練新軍，一切按他的計劃有條不紊地進行。戚繼光知道，北方韃靼不同於倭寇，所以就精心鑽研新的戰術。針對明軍騎術不高而韃靼擅長騎馬射箭，並動輒集合數萬之眾長驅南下的特點，創出了一種“車營”戰術，即每四人操縱一輛戰車，當遇到大隊人馬突擊時，就將許多戰車連成一體，形成一道“城牆”，將士們則可以躲在車後用火器射擊，大量殺傷敵人。在練兵中，戚繼光還不斷進行軍演，訓練明軍的實戰能力。
明朝時北邊的韃靼族首領是小王子，後領導權落人俺答手中。俺答帶領韃靼武士幾次進攻北京，京師為此屢次戒嚴，世宗皇帝為此殺兵部尚書，殺薊衛總督。當時俺答率領下的軍隊論戰鬥力要比明軍強，但論組織能力不如明軍，所以戰事總體還處於劣勢。明世宗時，邱富、趙全這些人投靠了韃靼，慢慢誘合沿邊的漢人，一直到幾萬人成為韃靼的一個集團，他們幫助韃靼築城堡、開水田，加強了組織力，提高了戰鬥力，有時也替俺答策劃戰爭，領導韃靼進攻長城。後邱富死於一場進攻明朝的戰役中，但趙全仍然在引導俺答進攻大同，而且準備尊俺答為帝，自己也準備稱王。但沒有料到意外發生了。
隆慶三年十月（1569年）十月的一天西風凜冽，俺答的孫子把那漢吉帶領幾十匹馬突然跑到長城的邊界要求投降。
朝廷內部，一方麵是張居正、高拱等人主張受降，一方麵葉夢熊等人認為受降會引起更大的戰事，降人後麵一定會有追兵。經過激烈爭辯之後事情總算決定了——受降。於是舉行了一個隆重的儀式，把那汗吉授指揮使，阿力哥授正千戶，各賞大紅紵絲衣一襲。
葉夢熊等人的預見沒有錯！果然俺答親率韃靼騎兵氣勢洶洶地殺來了？邊防的空氣驟然緊張起來了。站到牆頭一望，隻見黃沙彌漫，城下兵陣一字列開，少說也得幾萬人。張居正早已意識到，現在明帝國的國防自隆慶以來已逐步加強，任用譚綸、戚繼光、王崇古、方逢時等，戰鬥力已大大提高，準備和來者決戰。兩方盡管都有作戰的準備，但又都沒有絕對的把握。恰好這時，方巡撫派的使臣鮑崇德已經到了俺答紮下的大營之中。