姚思廉是雍州萬年縣人，他的父親姚察原是陳朝的吏部尚書，陳亡後，入隋為官，曆任太子內舍人、秘書丞等職，把家也從江南吳興搬到西京近郊萬年縣。
姚察對儒學和史學都有很深的研究，學問精深，品格正直，在陳、隋兩代都很受推重。姚思廉全麵繼承了他父親的優點，他從小跟隨父親學習漢史，盡得家傳。他清心寡欲，一心向學，從來不提起產業和家室之類的事情，幾乎是兩耳不聞窗外事，一心隻讀聖賢書。在陳朝時，姚思廉曾任揚州主簿，入隋後為漢王府參軍。不久，他的父親姚察去世，他丁父憂解職。
姚察在陳代曾打算修編梁史和陳史，但由於時局變亂未能完成。他臨終時，囑托姚思廉繼續編修，完成他未竟的事業。姚思廉在丁父憂之後又為繼母丁憂，之後才補缺出任了一個小官，河間郡司法書佐。姚思廉上表陳述父親的遺言，皇帝下詔，允許他續寫梁史和陳史。後來，隋煬帝還讓姚思廉和起居舍人崔祖？一起編寫《區宇圖誌》。
大業末年，姚思廉為代王楊侑侍讀。楊侑和越王楊侗、燕王楊絯都是隋煬帝的孫子，他們的父親是元德太子楊昭。大業元年，隋煬帝就大興土木，造西苑，營東都，還行幸江都。水殿龍舟，極盡奢華，還有幾千隻隨從的船隻，載著宮女、諸王、公主、百官和僧尼道士，拖船的勞工多達8萬餘人，光是拖漾彩船的就多達9000餘人，都穿著彩織錦袍。“船艫相連200餘裏，照耀川陸，騎兵翊兩岸而行，旌旗蔽野。”次年又讓人製作儀仗等物，遍求奇物異品，向州縣課求羽毛，於是全民捕鳥。“烏程有高樹，逾百尺，旁無附枝，上有鶴巢，民欲取之，不可上，乃伐其根；鶴恐殺其子，自拔氅毛投於地，時人或以為瑞，曰：天子造羽儀，鳥獸自獻羽毛！”
隋煬帝窮奢極欲地在江都享樂，元德太子從長安趕到江都朝見，路上奔波數月，請求在江都多住幾日，隋煬帝不許。元德太子向來體肥，加之過勞致疾，於大業二年七月病死。“帝哭之，數聲而止，尋奏聲伎，無異平日。”
隋煬帝對兒子薄恩寡義，對孫子也好不到那兒去，派代王楊侑鎮守長安，越王楊侗鎮守洛陽，卻不配給得力的文士武將，兩都的守衛實在虛弱。姚思廉教楊侑讀書綽綽有餘，至於守城攻占則非其所長。隋煬帝安排的西京留守衛文升年邁，大業九年楊玄感兵變，圍攻洛陽，衛文升馳援洛陽，就損兵折將，力不能支，後來李淵、李世民起兵，就沒把他放在眼裏，兵進關中，沒有遇到什麼抵抗就直逼長安城下。衛文升苦守長安也無用，李淵、李世民、李建成分三路攻打，從十月甲辰起至十一月丙辰，李建成部下軍頭雷永吉首先登上城牆，長安就落入李淵手中。
李淵攻克長安時，代王楊侑的府僚們奔忙逃命，誰也不管可憐的楊侑，隻有姚思廉一個人侍奉代王，不離左右。李淵的士兵將要攻入金殿的時候，姚思廉站出來厲聲說道：“唐公舉義，本匡王室，卿等不宜無禮於王。”於是姚思廉扶楊侑而去士兵們就乖乖地布列階下。“高祖聞而義之，許其扶侑至順陽閣下，泣拜而去。”
李淵此時的態度是耐人尋味的。他乘虛攻占關中，卻並沒有取得號令天下的優勢，隋煬帝尚在江都，河南由李密控製著，河北有竇建德，西邊還有勁敵薛舉。老謀深算的李淵並沒有一步登天充當出頭鳥，而是耍了個手腕，尊隋煬帝為太上皇，立楊侑為帝，自己則把朝政大權一把攬過來。李淵策劃的這一出戲是成功的，可惜他的演技不好，剛一出場就露了馬腳。“許其扶侑至順陽閣下，泣拜而去。”明明是交割俘虜的態度，哪有一點大臣對“皇帝”的禮節呢？