“近代沒有正史可言，梁、陳、齊三代的史書尚且可以有據可循，但是到了北周、隋朝，史實多有失傳。現在因為前後相隔的年代還不是很久遠，所以在編寫史書的時候還是有所根據的，但是如果在經過幾次改朝換代後，史實很有可能就湮滅了，不好再恢複和整理。陛下您現在所從事改朝換代的大業，尤其應該為前代修史，這樣您的功績才可能更好地流傳下去。”李淵接受了令狐德蔡的建議，下詔撰修梁、陳、齊、周、隋、魏六朝的曆史，但是因為當時修史的條件還不具備，所以沒有能在武德年間完成。唐太宗即位後，貞觀三年（公元629年），重新對修史進行了部署，除《魏書》不再重新修訂外，其他五朝史重修。傳令下去，一開始由尚書左仆射房玄齡總監各位修史的官員，但因房玄齡是宰相，事情較多，沒有更多的時間過問修史的事，所以唐太宗後來又任命魏征為實際的總監。後來曆史上對魏征修史的成就有個定位，評價他是中國曆史上監修正史最多的史學家。
魏征編纂《隋書》目的非常明確，就是能讓唐太宗以及後世的帝王能夠“以古為鏡，可以知興替”，通過隋朝的滅亡來提醒唐太宗吸取教訓，勵精圖治，為新朝的建立提供可資借鑒的經驗。魏征更是明確地提出“取鑒於亡國”的編書原則，要從前代的“危”、“亂”、“亡”
的教訓中求得本朝“安”、“治”、“存”。一組反義詞，透露出魏征關心國家興亡的忠忱。
因為隋代是個短命的王朝，隻經曆了兩代帝王，所以還沒有來得及完成修史的工作。魏征在主修《隋書》前，已有王劭寫的《隋史》十八卷和王胃的《大業起居注》，但王劭的書沒有一定的體例，編排散亂，再加上王胃的《起居注》又在隋末戰火中散失很多，所以不夠完整，因此可供魏征參考使用的資料並不多。但因為兩個朝代相隔的時間不是很久遠，魏征就經常到民間去親自訪問那些隋朝的遺老，去收集在民間散落的一些紀錄當時史實的隻言片語。如孫思邈對以往的曆史很了解。對很多事還記得很清楚，魏征就曾幾次拜訪他，從他那裏得到很多第一手的寶貴材料。此外，他還很重視私人家傳的收集和研究工作，從中也彌補了官撰史書的不足。
我們常說，文如其人，《隋書》的主編魏征為人耿直，個性剛正不阿，所以他所主編的這部史書，較少曲筆。如魏征評價隋文帝時，說文帝性格刻薄專斷，平時不喜歡讀詩書，懂得道理很少。又說隋煬帝懂得處處掩飾自己，博得父王的歡心，但品質惡劣，最後殺父淫母，剿滅自己同胞骨肉，殘害忠良，犯下了滔天罪行。這些情況，魏征並沒有因為這兩個人是至高無上的帝王就有所回避，而是照實寫來，不加隱諱。其次，《隋書》中的序和論，齊、梁、陳書中的總論，都是魏征親自撰寫的。這些短論都是總結和評論曆史得失的精辟語言，集中反映了魏征的民本思想，魏征重視人民群眾在曆史中的作用，以進步的眼光看待曆史，就能比較深刻地揭示出曆代王朝特別是隋亡的政治和經濟原因，這些都是很有價值的曆史論述。最後，《隋書》中保存了大量的政治、經濟以及科技文化的原始資料。總之，《隋書》五十五卷在“二十四史”中是比較好的一部斷代史。
貞觀十年（公元636年）正月，曆經七年，五部史書同時修成，由房玄齡和魏征共同署名，上呈給唐太宗。
唐太宗對他們能在這麼短的時間內，完成對五個朝代曆史的編纂工作，十分滿意，對參與編書的人員都有嘉獎。
魏征因為擔任總監，所以得到的賞賜特別豐厚，唐太宗又加封他為光祿大夫，晉爵鄭國公。
居安思危戒驕戒躁
唐建立後，經過一段時間的發展，國家安定，人民樂業，唐太宗開始逐漸流露出居功自傲的苗頭。魏征看到這個情況，就借著和唐太宗等人討論創業與守業之難時說：“曆史上的任何一個帝王剛建立一個新的王朝的時候，都能贏得百姓們擁戴，所以創業相對容易。但是當創立政權時間一長，由於當權者驕傲自大，百姓想要安靜過日子，國家卻使他們的徭役不斷，這時百姓又受到新的壓迫，於是，國家又將衰敗下去，又會有新的禍患產生。從這個角度講，還是守業更難一些。”雖然這裏，魏征對出入生死的創業之難輕描淡寫，但分析守成之難卻是一針見血的。
魏征針對這種情況，進一步提出，要守成帝業，使國家能夠長治久安，最重要的就是做到居安思危。貞觀五年，當太宗與群臣閑談時說到，現在國內相安無事，周邊的外族紛紛來臣服大唐，但自己仍然是非常謹慎，害怕不能把這個局勢保持下去。但是魏征卻又開始唱反調，說：“看到現在國內外一片升平的景象，我並不認為這是您的喜事。我認為，您能在安定的環境中經常警惕禍患來臨，這才是真正值得可喜的事情。”魏征分析得非常對，因為曆史上有很多這樣的典故，許多帝王都是居安忘危，沉浸在成功中，所以才導致了亡國的後果。