次年三月，隋煬帝被殺。五月，李淵覺得再不需要楊侑這麵招牌了，便從幕後走到前台，自己做了皇帝，國號為唐，建元武德。姚思廉在新王朝的官職是秦王文學。
李世民對姚思廉的學問和品格很敬重。李世民討伐徐圓朗的時候，中原大局已定，征伐徐圓朗又是以多打少，以強淩弱，所以心情很舒暢，和部下閑聊起隋朝滅亡的一些事來。李世民感慨地說：“姚思廉不懼兵刃，以明大節，求諸古人，亦何以加也！”當時姚思廉在洛陽，李世民還專門給他寄贈了一份厚禮，還附信道：“想節義之風，故有斯贈。”隨後請他作了文學館學士。
李世民為太子的那一小段時間裏，姚思廉任太子洗馬。李世民即位後，姚思廉升任著作郎、弘文館學士。在《十八學士寫真圖》上，褚亮為姚思廉寫的讚語是：“誌苦精勤，紀言實錄。臨危殉義，餘風勵俗。”
在唐太宗李世民的治國方略中，以史為鑒，古為今用是一條重要的思路。他有一句名言，叫做：“以古為鑒，可以知興替。”因此，他孜孜不倦地讀史、議史，從中汲取經驗教訓。他對史書的編修和整理也十分重視，貞觀三年，他親自下詔，讓房玄齡、魏徵、姚思廉、令狐德等人整理、編修前代史籍。由於是集體官修，各方麵的條件都比較好，修史有了充足的保障。姚思廉的父親曾修梁、陳兩代的史書未成，由他續成是理所當然的；修周史的是令狐德和岑文本，修齊史的是李百藥，魏徵與許敬宗修隋史。官修正史由宰相房玄齡總監，由魏徵知其總務，書中的讚論之類，多出於魏徵手筆。
姚思廉修梁史，以父親收集的素材為基礎，又采納了謝炅等史家的資料，修成《梁書》五十卷；他還推究陳代史事，增刪傅、顧野王等人所修的舊史，撰成《陳書》三十卷。這兩本史書的總論是魏徵寫的，其他的工作都由姚思廉來完成。貞觀十年，周、齊、梁、陳、隋五代史書修成，由房玄齡、魏徵進呈禦前，唐太宗十分高興，嘉獎了有關人員，魏徵加封光祿大夫，進爵鄭國公，賜物2000段；姚思廉賜采絹500段，加通直散騎常侍；令狐德、李百藥等也各有獎勵。
姚察、姚思廉父子曆經陳、隋、唐三代，誌在修史，曆盡艱難，終於在貞觀治世完成了兩部史書的編修工作。這件事情也從一個側麵印證了“國運興，萬事昌”的道理。
姚思廉是唐太宗李世民的老部下，深受禮遇和信任，政事得失，經常詢問他的意見，姚思廉也直言不諱，知無不言。有一次，唐太宗要巡幸九成宮，姚思廉進諫說：“離宮遊幸，秦皇、漢武之事，固非堯、舜、禹、湯之所為也。”唐太宗很客氣也很誠懇地解釋道：“朕有氣疾，熱便頓劇，固非情好遊賞也。”唐太宗還賜帛五十匹以示勉勵。
貞觀十一年，姚思廉病逝。唐太宗深為悼惜，廢朝一日，並賜葬地於昭陵。