公元587年，隋文帝下令廢除九品中正製，命令各州選拔人才時，要注重德才兼備，推薦上來的人才當中再以考試加以選拔。九品中正製源於漢末，是曹操“唯才是舉”的政策體現，也為曹魏提供了大量人才，但到了曹魏後期，尤其是到了晉朝，九品中正製已不再是選拔真正人才的製度，而是貴族世襲官位的一個橋梁，選拔官職的原則完全看“家世”、“門第”，因而出現了“上品無寒門，下品無士族”的現象，把大批具有才能而出身低微的人排斥在官場之外。
隋文帝非常清楚九品中正製的弊病，因此將其廢除，並製訂了新的用人政策，他規定每州每年要推薦有才學的貢士三人，其標準是“文章華美”，把德和才結合起來，通過考試的途徑來選拔人才擔任官吏。到了隋煬帝時，又設立了進士科。進士科的設置，標誌著科舉製度的創建。
北周的刑律殘酷而紊亂，楊堅登基後，馬上廢除了前朝各種酷刑，以“以輕代重，化死為生”為指導思想，頒布了《開皇律》。此律廢除了前代梟首(斬後懸首於木上)、車裂、鞭刑等刑法，除了犯謀反罪，一律不用滅族之刑。《開皇律》的頒布，是中國法律史上的一大進步。
西魏、北周以來的府兵製規定，戰士和家室、土地自成一個係統，不受地方州縣轄製。隋朝也一直沿用這個府兵製，直到公元590年，楊堅才對府兵製進行了較大改革，將所有軍人，戶籍全部劃入當地州縣，土地分配和賦役征收與原來的農民完全一樣，隻是他們仍有軍人的職責，受軍府管轄。這種兵歸於農、兵農合一的措施既增加了國家的財政收入，又加強了政府對軍人的控製；這一製度到唐代仍然沿用。
同時，楊堅為穩固自己的統治，下令除邊疆和京師守衛軍隊以外，其餘的兵器等軍事裝備立即停止製造並且銷毀，軍人子弟應盡力改從學文，要把尚武之風改變成習文之氣。
在進行政治製度改革的同時，楊堅也進行了一係列經濟製度的改革。矛頭首先對準的，就是原有戶籍製度。為逃避國家的賦稅、徭役，農民往往虛報年齡，以求躲過納稅年限；豪強地主占有大量依附人口，也想方設法不報戶口。為擴大財政來源，公元585年，楊堅采取了“大索貌閱”和“輸籍定樣”(也稱“輸籍法”)兩項措施，嚴格核對戶口，實行戶籍製度。這一年就檢查出成丁男子44.3萬，並把164萬餘人編入戶籍。根據人口情況，按最多標準訂立繳納賦稅的額度，寫成“定簿”。每年正月初五，縣令派人檢查，重新製定“定簿”，收獲後即以此征收。這兩項措施使國家掌握的人口劇增，增加了財政收入。
隋朝沿用北魏以來的均田製，每丁受露田八十畝，桑田彧麻田二十畝，婦女受露田四十畝。露田在受者死後交還國家，桑田彧麻田可傳給後代子孫。丁牛一頭受田六十畝，一家限牛四頭。均田法又規定：京官一至九品都可得到1~5頃的職分田，收入作為俸祿，免官則交出土地；各級行政機構都可耕種一定的土地，稱公廨田，其收入作為辦公費用。用這種辦法節省了大筆財政支出，也就變相增加了國家的實際收入。均田製給一般農民提供了一定數量的土地，有利於生產力的發展。
與均田密切相關的是租賦的調整。隋文帝接受蘇威“輕徭薄賦”的建議，幾次下詔減免徭役和租稅。租賦一般以床(一夫一婦)為單位，丁男一床，納租粟三石，即租，桑田調絹一匹(4丈)，綿三兩，麻田納布一端(6丈)，麻三斤，即調。結婚的單身成年男女可交租調規定的一半。單丁及奴婢繳納一半租稅。成年男子每年為國家服徭役1個月，稱“力役”。隋文帝後來又下令減輕租賦徭役，成丁年齡由十八歲提高到二十一歲，減少了三年。每年服役時間由一月減為二十天，調絹由一匹(4丈)減為2丈。後來又允許五十歲以上的人可以輸庸代役，即交納布帛代替力役，這種辦法被後來的唐朝所繼承和完善。隋朝的租賦低於以前的朝代。這就調動了農民的生產積極性，大大促進了農業生產。
公元584年，楊堅命建築家宇文愷率領民工開鑿廣通渠，以便於把潼關以東地區的糧食、布帛運到首都，也為兩岸的土地提供了灌溉條件。魏晉以後，國家分裂，幣製非常混亂，影響著商品交換的發展。楊堅建國後，下令改鑄五銖錢，廢除其他古幣和私人鑄幣，隻準五銖錢流通，又統一了度量衡，有利於工商業的發展。
隨著改革的不斷深入，隋朝國泰民安，國勢蒸蒸日上，而此時與隋南北對峙的是南陳，君臣沆瀣一氣，荒淫糜爛，已經是日暮西山。這時的楊堅，已經準備率兵南征，統一全國了。但這時還是出現讓他分心的事情，那就是突厥和南梁的殘餘後梁。楊堅還是先解決了突厥和後梁的問題，這才正式準備伐陳。
公元588年秋，楊堅發兵50餘萬大軍，在東起海濱，西至今四川的綿長戰線上，向陳發動大舉進攻，次年便將腐朽的南陳皇帝陳叔寶及文武百官俘虜，滅掉南陳，完成統一。
另一麵的楊堅