此後，張廷玉的機敏幹練又迅速傳開，吏部大小官員再也不敢憑借手中的權力亂來了。史書上也為此寫道：張廷玉到吏部不久，就使得“銓政肅然”。
三
張庭玉的長子張若靄天資聰穎，刻苦好學，在鄉試、會試中均屬佼佼者。雍正十一年（1733年）三月，他又參加了殿試。諸大臣閱卷後，將密封的試卷呈皇帝親覽定奪。雍正帝看罷他的卷子非常高興，隨即欽點為一甲三名，即探花。當開卷後得知新科探花竟是張廷玉之子，雍正帝笑逐顏開地對人說：“大學士張英立朝數十年，清忠和厚，始終不渝；張廷玉朝夕在朕左右，勤勞翊讚，時時以堯舜期朕，朕亦以皋、夔期之。張若靄秉承家教，兼之世德所鍾，故能若此。”還說：此事“非獨家瑞，亦國之慶也”。隨後，立即派人將此喜訊通知張廷玉。
出人意料的是，張廷玉聞訊後深感不安。他認為：兒子還年輕，少年得誌並非好事，還應激勵他繼續奮進；再就是天下寒士眾多，不應當因為自己的兒子而耽誤了其他人的前程。於是，他急急求見雍正帝，懇求將兒子改為二甲。
照清代科舉製度，殿試後按三甲取士：一甲隻三人，即狀元、榜眼、探花，稱進士及第；二甲若幹人，稱進士出身；三甲若幹人，稱同進士出身。隻要被選中一、二、三甲，都可稱為進士；但一甲三人可立即授官，成為翰林院的修撰或編修，這是未來步步高升的重要台階；而二、三甲則需選庶吉士，一般是在數年後才能當官；即使當時被授官，也隻是去做州縣地方官。
雍正帝見張廷玉請求將兒子名列二甲，還以為他隻是一般的謙讓，便對他說：卿家“忠盡積德，有此佳子弟，中一鼎甲，亦人所共服，何必遜讓？”張廷玉立即跪在地上，懇求道：“皇上至公，以臣子一日之長，蒙拔鼎甲。但臣家已備沐恩榮，臣願讓與天下寒士，求皇上憐臣愚衷。若君恩祖德，佑庇臣子，留其福分，以為將來上進之階，更為美事。”雍正帝見他再三懇辭，“不得不勉從其請”，將張若靄改為了二甲一名。不過，在張榜公布的同時，雍正帝又為此事而特頒諭旨，專門表彰了張廷玉代子謙讓的美德，並號召天下人知之、學之。
張廷玉享年84歲。死後，諡“文和”，並同鄂爾泰一起配享太廟，成為當時獨一無二獲此殊榮的漢族官員。