王謙、司馬消難也被梁睿、王誼擊敗。
消息傳到長安，楊堅大為亢奮。
五王聞訊尉遲迥等兵敗大驚，為了宇文氏的江山，他們決定鋌而走險，刺殺楊堅。經過一番密謀，一個刺殺計劃敲定了：由趙王宇文招出麵，宴請楊堅，周圍埋伏刀斧手；把楊堅的隨從擋在門外，隻讓他一人入內；席間，宇文招的兒子送瓜上來，拿刀切瓜時刺殺楊堅。一切準備就緒，宇文招開始行動。
楊堅對於五王估計不足，覺得已經收繳了他們的兵符，解除了他們的兵權，量他們也沒什麼作為了，見宇文招有請，遂帶著楊弘、元胄等幾個隨員前往。到了趙王府邸，隨從都被擋在門外，楊弘、元胄硬是闖了進去。元胄進去一看苗頭不對，便對楊堅道：“相府有事，丞相不宜久留!"
"我與丞相說話，你插什麼言!"宇文招斥責元胄，喝令他退下。
元胄兩眼圓睜，不但不退，反而提刀上前保護楊堅。宇文招不敢動強，問過元胄姓名，道：“你過去不是在齊王手下做事嗎?真是一個壯士!"賜給元胄一杯酒，說：“我哪有什麼惡意，你何必如此緊張?"說完，裝作嘔吐，欲離開座位，被元胄強行扶回座位上。宇文招幾次想離開，都被元胄"勸"止。宇文招又說口渴，元胄便讓人送來水讓他在座位上喝。宇文招被置於元胄的威脅下，他手下的人也不敢輕舉妄動。這時，滕王宇文迪來到，乘楊堅出門迎接，元胄在他耳邊說：“苗頭不對，趕快離開這裏!"
楊堅估計風險不大，道：“他沒有兵馬，能幹什麼?"
"兵馬本來就是他們的，隻要他們先下手幹掉丞相，一切都完了。”元胄道：“不是我怕死，因為我死了也解決不了任何問題。”
楊堅沒有走，鎮靜地回到席上坐下。
元胄聽到後堂有披掛盔甲的聲音，急了，上前對楊堅說：“相府的事那麼多，丞相怎麼這樣，老坐著不走?"說完，拉著楊堅就走。宇文招快步追出來，元胄堵在門口，等楊堅出了府邸大門，他才緊走幾步趕上。
楊堅回到了相府，以謀反的罪名殺了宇文招、宇文（辶卣）。
楊堅徹底擊敗了他的敵人。
不久，楊堅就以靜帝的名義下詔，任命自己為大丞相，廢除左、右大丞相，免得有人利用二相並立的條件與自己分庭抗禮。
二個月後，靜帝頒詔，盛讚揚堅功德，進位相國，以20郡之地封楊堅為隨王，劍履上殿，入朝不趨，讚拜不名，位在諸侯王之上。楊堅假意謙讓了一番，最後，除了減去10郡封地外，其他全部接受。
為了削弱宇文氏的影響，楊堅下令廢除所有對漢人的賜姓，令各複本姓。這一命令得到了漢人的普遍擁護。
不久，在楊堅的授意下，靜帝又頒詔：楊堅的王冕為十二旒，建天子旌旗，出警入蹕，乘坐金銀車，駕六馬，享用八佾樂舞。楊堅假意辭讓，前後三次，才無可奈何般地接受。
楊堅的人臣之位已是無以複加了。
接著，楊堅派人為靜帝寫好退位詔書，詔書中盛譽楊堅功德，請楊堅接過帝位。詔書由朝廷大臣奉送到隨王府。在百官的再三懇求下，楊堅才勉為其難般地接詔。他穿上早已準備好的皇服，在百官簇擁下入宮，登上帝位。周靜帝北麵稱臣，楊堅封他為介國公，食邑5000戶，享用原來的車馬、旌旗、服飾、樂舞，不向新帝稱臣，隻是新朝的客人。
楊堅承嗣父親隨國公的爵位，後又晉稱隨王，遂定國號為"隨”。但他覺得"隨"字有"辶"，與"走"同義，不吉利，遂改"隨"為"隋"，仍以長安為國都，立獨孤伽羅為皇後，長子楊勇為皇太子，改元"開皇”。
這年，是公元581年。楊堅時年40歲。
四、隋朝體製
每個開國皇帝，都要在前王朝典章製度的基礎上，結合新王朝的實際情況，厘定一套新的體製，以維係新王朝的生存。在這個方麵，有成功的，也有失敗的。
楊堅也厘定了一套新的體製。
在中央，設置三師、三公、五省、六部、二台、九寺、十二府。
太師、太傅、太保，為三師。三師官銜為正一晶，在名義上是皇帝的老師，與皇帝坐而論道，但不置官署，沒有什麼實權，僅是賜予德高望重大臣的榮譽官銜。三公為太尉、司徒、司空，也是正一晶。三公雖置僚屬，有參議國家大事的權力，但一般不設；即使設置，也不單設，而是給某些重臣的加官。五省，為內史省、門下省、尚書省、秘書省和內侍省。秘書省管理圖書曆法，內侍省是宦官機構，這二省在政權中不占重要地位，真正的權力中樞是內史、門下、尚書三省。內史省協助皇帝決策軍國大政，長官為內史監、內史令，各一人，旋即廢內史監，置內史令二人，正三品。門下省負責審核大政方針，認為不妥的，可以駁回，長官為納言二人，正三品。尚書省主持日常政務，長官為尚書令一人，正二品，但一般不授人，有隋一代，隻有煬帝時楊素以翊戴之功，進位尚書令，故尚書省長官實際上是左右仆射，從二品。在尚書省之下，設吏、禮、兵、都官(後改刑部)、度支(後改民部)、工六部，分掌具體事務。吏部負責文官的選拔、考核，禮部負責禮樂、學校，兵部負責武官的選拔、兵籍、軍令，都官負責刑獄、司法，度支負責賦稅、財政，工部負責土木工程、水利。六部長官為尚書，正三晶。尚書左仆射領導吏、禮、兵三部，右仆射管理都官、度支、工三部。左右仆射和六部尚書，合稱"八座"，地位顯赫。二台為禦史台、都水台。禦史台職司監察，都水台掌管舟楫、河渠。九寺為太常寺、光祿寺、衛尉寺、宗正寺、太仆寺、大理寺、鴻臚寺、司農寺、太府寺，分司各項事務。十二府為軍事機構，各設大將軍一人，將軍二人。
上麵這些，隻是中央主要機構，此外還有一些權位較低的衙署。
對最要害的三省六部，楊堅委任他最信任的8人擔任長官：高熲為尚書左仆射兼門下納言，李德林為內史令，虞慶則為內史監兼吏部尚書，韋世康為禮部尚書，元岩為兵部尚書，元暉為都官尚書，楊尚為度支尚書，長孫毗為工部尚書。這8人都是楊堅做丞相以來網絡的心腹，且都是精明強幹的人物。特別是高熲，身兼尚書、門下二省長官，權位極重。
至於鄭譯、劉防這樣的人，楊堅的看法是：“沒有這幾個人，朕就沒有今天。但朕知道他們實際上都是反複無常的人，周宣帝時以無賴進幸，宣帝病重，他們為了個人私利，推舉朕輔政。朕要治理國家，他們又跟朕搗亂。對這些人，若任用他們，他們不會老老實實做事；不用他們，他們又牢騷滿腹。”結果，鄭譯得到的僅是第一等勳官官階--上柱國，劉防得到的是第二等勳官官階--柱國。
楊堅登基的時候，地方上有州201個，郡508個，縣1124個。每個州管轄的郡，僅2個或3個；每個郡也隻管轄2個或3個縣。州、郡、縣都分九等，一般都有兩套職官，一套是由吏部直接任命的，州除刺史外，還有長史、司馬等；另一套是由刺史聘任的，如州都、祭酒從事等。郡也是這樣，除太守、丞由中央任命外，還有一大批由太守聘任的僚佐。縣也是如此。這樣，州、郡、縣官員十分龐大，如第一等州額定官員多達323人。造成了民少官多、十羊九牧的局麵。開皇三年(583)，楊堅下令裁省郡一級行政單位，實行州、縣二級製，又合並了一些州縣，並下令廢除州縣長官聘任的僚佐。這樣，既節省了開支，又簡化了政令推行的程序。
為了有效地控製地方，楊堅把子弟分遣到戰略要地，鎮守一方。他們大都是掛著"行台尚書省"長官的官銜出鎮的。行台尚書省簡稱行台省，長官也叫尚書令，相當於中央尚書省在地方的派出機構，總統一方軍政，管區內的州縣都受其節製，權任極重。開皇二年(582)，置河北道行台於並州(今山西太原)，以晉王楊廣為尚書令；置西南道行台於益州(今四川成都)，以蜀王楊秀為尚書令；置河南道行台於洛州(今河南洛陽)，以秦王楊俊為尚書令。在行台尚書省之外，還有總管府，掌一州或數州軍政，一般也以親王充任總管。
在刑律上，製訂、頒布了《開皇律》。
這部新律是蘇威、牛弘等人修訂的。蘇威是武功(今屬陝西)人，牛弘是安定(今甘肅涇川北)人。兩人都博聞強記，精通律令。開皇三年(583)，楊堅把製訂新律的重任交給他們，他們廣泛汲取了魏晉南北朝以來的立法經驗，結合當時社會的實際狀況，完成了一代法典《開皇律》。《開皇律》共分12篇，500條，刪除了魏晉南北朝以來一些殘酷的刑罰，定刑名為5種：死刑二，有絞、斬；流刑三，有1000裏、1500裏、3000裏；徒刑五，有一年、一年半、二年、二年半、三年；杖刑五，從60至100不等；笞刑五，從10至50不等。為了確保楊氏家天下，又規定"十惡"：謀反、謀大逆、謀叛、惡逆、不道、大不敬、不孝、不睦、不義、內亂，屬於"十惡"的罪犯，從重從嚴懲處，不得寬赦。官僚地主犯罪，隻要不是十惡不赦之罪，都可以減一等，也可以出錢贖罪，還可以用官品來折抵徒刑。
在經濟上，繼續推行均田製。
每個成年男子(18--60歲)給露田80畝，永業田20畝；成年女子給露田40畝。露田死後歸還政府，永業田可以傳給子孫。奴婢也像平民一樣分田，親王的奴隸受田限300人，一般地主不得超過60人。每頭耕牛給露田60畝，限四牛。自親王至都督，給永業田100頃至40畝不等。京官自一品至九品，給職分田自五頃至一頃不等，作為俸祿。
在賦役上，分租、調、力役。
一夫一婦每年納粟三石，叫作"租"；種桑養蠶地區每年交絹絕一匹、綿二兩，種麻織布地區每年交布一端、麻三斤，叫作"調”。成年男子每年服役一個月，叫作"力役”。開皇三年(583)，成年的年齡從18歲提高到21歲，服役時間從一個月減為20天，調絹從一匹減為二丈。到開皇十年，規定成年男子的力役，從50歲以後可以交納布帛代替，稱為"庸”。
在戶籍管理上；推行"大索貌閱"、"輸籍定樣”。
"大索貌閱"即根據戶籍上登記的年齡和本人的體貌相核對，檢驗是否謊報年齡，詐老詐小。”輸籍定樣"是根據各戶資產劃分戶等，根據戶等製定稅額，寫成定簿。每年五月，縣令派人核查，重新製定"定簿”。
這些措施、製度的推行，強化了君主專製主義中央集權統治，也在一定程度上促進了經濟、文化的發展。不僅如此，楊堅時厘定的體製，承上啟下，對後世中國封建社會有深遠的影響，特別是中央的三省六部製，地方的州縣二級製，刑法上的《開皇律》，經濟上的均田製，對唐代及其以後的封建皇朝都有重大影響。
五、統一全國
當楊堅登基稱帝時，華夏大地仍處於分裂狀態，隋的南麵還有梁、陳兩個小朝廷。
梁的都城在江陵(今屬湖北)，曆史上稱為"後梁”。後梁地盤不大，自蕭詧建國以來，一直依附於北朝，是個"兒皇帝"角色。楊堅稱帝時，統治後梁的是蕭督的兒子蕭巋，楊堅派特使賜他黃金500兩、白銀1000兩、布帛10000匹、馬500匹，以示恩寵。第二年，楊堅又派人去江陵為晉王楊廣選妃，經過占卜，所選美女都不吉，蕭巋想起自己還有個女兒在舅父家住著，何不讓她一試?於是派人把女兒接來，占卜吉凶，得了個"吉"，於是蕭巋的女兒就成了楊廣的妃子，後來楊廣做了皇帝，蕭妃又成了皇後，這是後話。由於這次聯姻，楊廣很優遇蕭巋，取消了派去監視蕭巋的江陵總管，讓蕭巋自己處理後梁事務。第三年上，蕭巋去長安朝見楊堅，楊堅又欽準他的地位在王公之上。翌年，蕭巋病死，子蕭琮嗣位。蕭琮為人倜儻，博學好文，嫻於弓馬，風采不遜乃父。但在楊堅眼裏，已不被看重了，原因很簡單，這時隋內部已整頓完畢，楊堅騰出手來，準備完成統一大業了。楊堅宣布恢複江陵總管，重新把後梁置於隋的監管之下。蕭琮即位第三年上，楊堅征蕭琮入朝，蕭琮自然不敢違命，率文武百官200餘人北上，江陵父老歎道；"我主這一去，就回不來了。”正如他們所料，蕭琮離江陵北上，隋將崔弘度就帶兵南下，說是去守衛江陵。蕭琮叔父蕭岩知道崔弘度來者不善，率城中官民10餘萬人投奔陳而去。消息傳到長安，楊堅宣布廢掉後梁，改封蕭琮為莒國公。