有一次，孫權在武昌宴請眾臣，提出："今日酣飲，隻有醉後落入水中，才能停止。"張昭聽罷，正色不言，外出坐於車中。孫權遣人呼張昭還席，張昭道："想到紂王作糟丘酒池一夜宴飲之事。"孫權聽後慚愧，於是罷酒。
公元222年，孫權稱吳王，欲設丞相，許多人提名張昭。孫權說："丞相責任很重，還是孫邵為妥。"不料孫邵數年後病逝，大家又提張昭。孫權這才表明原因："子布性情剛烈，他的話要是不被采納，就會產生怨忿詰難，對他無益。"任命顧雍為丞相。
公元229年，孫權稱帝，大會百官，功歸周瑜。張昭舉杯想要道賀，不料孫權先道："若當年聽從張公，朕現在想必已是乞食者了。"張昭非常慚愧，伏在地上流汗。對於此說，有人持否定意見，認為孫權一向敬畏張昭，不大可能會這樣說，而張昭性格剛直，也不可能為一句話就在眾臣麵前伏地流汗。
不久，張昭稱老退位，上交了自己統領的部屬，被改拜為輔吳將軍，地位僅次於三公，改封婁侯，食邑萬戶。退居在家期間，為《左傳》和《論語》寫注。
公元232年十月，曹魏遼東太守公孫淵反魏，稱臣孫吳，以為外應。孫權甚喜，欲派使者攜金銀細軟赴遼東，張昭聞知，力勸孫權。主意已定的孫權恨極，抓起一刀怒罵張昭："吳國士人入宮就拜朕，出宮則拜您，朕對您的敬重，已經到了極點了，但您數次在眾人麵前折辱朕，朕害怕自己失手傷害您。"
張昭注視孫權良久，說："當初太後臨終之時，呼喚老臣於床下，遣詔顧命的話猶在耳旁。"說完涕泣橫流。孫權擲刀於地，相對而泣。
孫權還是一意孤行，遣使遼東。張昭憤恨，從此不朝。孫權遂令用土封住張昭家門，以示他永遠不必出門。張昭就用土在內將門堵住，以示他永遠不打算出門了。
不久，公孫淵出賣孫吳，斬了東吳使者張彌和許晏。孫權這才後悔，數次派人去向張昭道謙，甚至勤用燒火之舉，欲讓張昭重新上朝。但張昭不為所勤，直至孫權親自去其家門前久站，張昭才在兒子攙扶下，出門與孫權和解。
公元236年三月，張昭去世，享年八十一歲。孫權著素服前往吊唁，謚號"文"，以太牢禮儀祭祀。因張昭長子張承已功封都鄉侯，故由次子張休世襲婁侯爵位。
張昭精通儒學。"建安七子"之一的陳琳著有《武庫賦》，張紘讀後寫信稱贊陳琳文才。陳琳卻說與張紘及張昭兩人相比，是小巫見大巫。
《全三國文》收有張昭作品《宜為舊君諱論》及《徐州刺史陶謙哀辭》。
張昭擅隸書，可惜書法作品皆軼。唐代書法家張懷瓘在《書估》中將其書法列為三等。