建安年間，張臶移居上黨，當時的並州牧高幹讓他做樂平令，他不理會，並離開到常山去講學，曾有門徒數百人。後來又遷居任縣。正史中，曹操後來也征召張臶多次，張臶皆以年老多病為由不應，沒有前去。
曹操心中憤怒，讓廣平太守盧毓搞定。盧太守剛上任三天，主簿報告可以按以前的做法，送交拜帖去見張臶。盧毓教訓他道：“張先生是所謂既上不侍奉皇帝，下不結交諸侯的人。對這樣的人，難道用拜帖請見，就可以讓他美名更卓著嗎？”於是隻派主簿帶著信，送上羊、酒作為儀禮。張臶仍然不予理會。
魏齊王曹芳正始元年，張臶以一百零五歲高齡去世。據說當時有戴勝鳥在張臶家門北麵築巢。張臶對門人說：“戴勝鳥屬陽，卻在屬陰的背麵築巢，這是凶兆啊。”於是他彈琴唱歌，作詩兩篇，十天後就去世了。
同年，廣平太守王肅到任，對張臶表達了敬意，並給他的家屬榮譽和特殊照顧。張臶一百零五歲的年齡，是《三國誌》中明文所載，他應該是東漢末到三國時期有可靠記載的最長壽的人之一。
魏明帝青龍四年詔書說：“張掖郡黑河的洶湧波濤中出現了寶石背負的圖像，圖像畫的是一隻靈龜，立於川西，青色的質地，素色的文路，又畫有麟鳳龍馬，形狀鮮明，文字宣告天命，粲然可觀，意義著明。太史令高堂隆上告朝廷說：‘這種寶物的顯示是古代聖明皇帝所沒有蒙受過的，實在是大魏的吉祥命運，東序的罕見之寶。’”此事頒告天下。任縣縣令於綽將詔書帶去詢問張臶，張臶秘密地對於綽說：“神明隻預言未來，而不追述以往。先用禎祥之兆預告未來，然後興盛還是衰落才會隨之而來。漢朝滅亡已久，曹魏已得天下，還追述什麼興廢之兆呢？這塊寶石今天的變異，隻是將來之吉祥的征兆。”後來司馬氏果然取代了曹魏。
與張臶同時代的人，對他的評價往往著眼於他在亂世中不任官、不投靠諸侯的隱士之風，以及造福鄉裏的功績。王肅評價他道：“此君篤學隱居，不與時競，以道樂身。”陳壽則稱他與另一隱士胡昭“闔門守靜，不營當世”。後世也有人認為張臶的淡泊明誌、不慕名利是他長壽的秘訣。
《三國誌·卷十一·魏書十一·袁張涼國田王邴管傳第十一》原文記載張臶事跡：時巨鹿張臶，字子明，穎川胡昭，字孔明，亦養誌不仕。臶少遊太學，學兼內外，後歸鄉裏。袁紹前後辟命，不應，移居上黨。並州牧高幹表除樂平令，不就，徙遁常山，門徒且數百人，遷居任縣。太祖為丞相，辟，不詣。太和中，詔求隱學之士能消災複異者，郡累上臶，發遣，老病不行，廣平太守盧毓到官三日，綱紀白承前致版謁臶。毓教曰：“張先生所謂上不事天子，下不友諸侯者也。此豈版謁所可光飾哉！”但遣主簿奉書致羊酒之禮。青龍四年辛亥詔書：“張掖郡玄川溢湧，激彼奮蕩，寶石負圖，狀像靈龜，宅於川西，嶷然磐峙，倉質素章，麟鳳龍馬，煥炳成形，文字告命，粲然著明。太史令高堂隆上言：”古皇聖帝所未嚐蒙，實有魏之禎命，東序之世寶。“事頒天下。任令於綽連齎以問臶，臶密謂綽曰：”夫神以知來，不追已往，禎祥先見而後廢興從之。”
陳龍光腦中閱罷張臶生平，心中大喜，一拍桌子站起道：“大舅哥，張子明天下奇人也！快領我去見他！”
欲知後事如何，且聽下回分解。