最後，房玄齡對“貞觀之治”還有一項較大貢獻，那就是對曆史和經籍圖書進行了整理。由於唐太宗李世民是一個重視曆史的皇帝，他有一句名言是：“把銅片當作鏡子，可以幫助人來整理衣裝；用古代的曆史經驗為借鑒，可以讓人明白曆史是如何更替的；用別人的行為作為鏡子，可以看到自己的優點與不足。”因此，唐太宗一直重視記錄曆史。而且重視人才的唐太宗，從其還是秦王時身邊就開始雲集著才子，號曰“秦府十八學士”，而房玄齡為十八學士之首，所以修訂史書的重任自然就落到了房玄齡身上。從貞觀三年（629年）起，房玄齡遵從唐太宗的指示著手對兩晉、北齊、北周和梁、陳、隋六朝史進行編纂。房玄齡是齊、周、梁、陳、隋五朝史的總監，是《晉書》的監修。五朝史修成於貞觀十年（636年），《晉書》最後完稿於貞觀二十年（646年）。
同時從貞觀三年（629年）起，房玄齡開始對唐國史和實錄進行編纂和修訂。在對唐國史進行編寫的時候，房玄齡堅持忠於事實的寫作手法，將曆史上發生的事情，按照他原來的麵目進行寫作，不誇張好事，也不掩蓋壞事。更不會因為皇帝的喜好而改變曆史。其中《貞觀政要》就記載了這樣一個故事：貞觀十四年（640年），唐太宗要想看一看修的同史，房玄齡與魏征不許唐太宗看。於是唐太宗就問：“為什麼自古以來當代國家的曆史，都不許當時的帝王親自過目？”房玄齡回答說：“國家的曆史都是按照曆史上發生的事情的實際情況來寫的，其中當然會涉及到皇上所做過的好的事情和不好的事情，自然不能給皇上看。”唐太宗解釋說：“我沒有幹涉的意思，我想看一看國史，主要是想借鑒一下過去的經驗與教訓，以免以後再犯同樣的錯誤，我並沒有想影響史書的編寫。”聽了唐太宗的解釋，房玄齡和魏征才同意唐太宗看當朝的國史。可見，房玄齡對史書編纂的嚴肅態度。房玄齡不僅編訂了史書，而且為適應科舉適度的變革和唐太宗的要求，組織眾儒對《五經》進行了討論，最終校刊了統一的《五經定本》。
以上這些就是房玄齡在朝廷效命期間，為國家所做的主要貢獻，這些貢獻為“貞觀之治”的出現奠定了十分重要的基礎。房玄齡也是為國家鞠躬盡瘁，死而後已了。房玄齡到病故之前，一直盡職盡責地擔當著宰相一職，多次想要向皇上辭官，但皇上因為對他的信任，一直不允許他告老房玄齡經常細心地觀察周圍的人，隻要發現有很好的才能，就一定會給唐太宗推薦。還鄉。太宗說：“國家長期任用你，一旦突然沒有賢良的宰相，就像一個人失去兩手。你如果精力還不衰弱，就不要這樣辭讓。等到自己感到確實衰老無力的時候，再向我奏明吧。”晚年房玄齡由於議政操勞國事，真的體弱多病了。
但太宗真的離不開如此良相，於是準許他臥床在家裏處理政務，後來房玄齡的病情加重了，連在家中處理政務也做不到了，唐太宗聽到這個消息，心裏十分著急，命令將房玄齡的轎子一直抬進玉華殿來，與太宗相見，結果君臣兩人一見，情如潮湧，相對涕流不止。唐太宗實在放心不下房玄齡的病情，於是將其留在了宮中，安置於偏殿，命令禦醫進行診治，禦膳進行伺候。並找專人負責向太宗通報房玄齡的病情，太宗聽到房玄齡病情有所好轉，心情喜悅，但如果聽說病情惡化，則哀歎不已，戚容愁苦。在房玄齡病情惡化後，太宗更是無時無刻不惦記房玄齡的情況，竟命令將帝居玉華殿與偏殿之間的宮牆統統鑿開，連成一庭，以便隨時可以向太宗報告房玄齡的病情。但盡管太宗對房玄齡無微不至地進行照顧，無奈情不敵病，太宗的照顧並沒能留下房玄齡，不久，一代賢相房玄齡在玉華殿病故，享年69歲。