決定拚一把後，楊堅的視線第一個便投向了北周宗室諸藩王身上，這些藩王中有很多能力不錯的，楊堅怕他們會生變，便以趙王宇文招將要嫁女於突厥的名義將他們召來京師長安，防止他們起兵反抗。
與此同時，楊堅還廢除了周宣帝時的嚴刑峻法，苛捐雜稅，施政寬和，躬行節儉，盡收民心。
公元580年6月，北周宗室中有實力的趙王宇文招、陳王宇文純、越王宇文盛、代王宇文達、滕王宇文逌都到了長安。
同一時間，相州總管尉遲迥自覺是北周的重臣宿將，見楊堅擅政心中十分不平，於是舉兵叛亂。
鄖州總管司馬消難、益州總管王謙相繼起兵響應，趙、魏之士，從者雲集，旬日之間，便聚集了十萬兵馬。
另有宇文胄以滎州、石愻以建州、席毗以沛郡、毗弟叉羅以兗州為基，起兵響應尉遲迥。
一時之間，這剛剛統一的北方大地再起兵戈，狼煙四起，百姓離亂。
見此，楊堅火速派出了老將韋孝寬，猛人很給力，很快便打敗了尉遲迥，嗯，大概是想在死之前帶上尉遲迥做個伴。
尉遲迥：糟老頭子硬是壞得很，走就走唄，拉我幹啥？
韋孝寬：這次不拉你了，我送你！
尉遲迥：！！！
聽上去，故事更悲傷了啊！
戰火被迅速撲滅，司馬消難南逃於陳，王謙伏誅，楊堅取得了勝利，穩定了內部統治。
雍州牧畢王宇文賢及趙、陳等五王，見楊堅迅速平滅尉遲迥之亂，威望大增，圖謀作亂。
宇文賢作為出頭鳥，自是被楊堅第一個盯上，非常熱情的送走了他，接著便以謀反的罪名，先後殺了趙王宇文招、越王宇文盛、陳王宇文純、代王宇文達、滕王宇文逌等人，清除了鮮卑族中的反對力量。
同時，他又拉攏元諧、元胄、宇文忻等部分鮮卑貴族，就這樣拉攏一批，處理一批後，楊堅改朝換代的計劃，終於沒了任何阻礙。
公元581年2月，楊堅由隋國公晉封隋王！
老套路了，稱帝先稱王嘛，也就趙匡胤有些不守規矩，不然就算是劉邦、朱元璋倆布衣天子，也是從國公到王再到皇帝的。
同月，北周靜帝宇文闡以楊堅眾望所歸下詔宣布禪讓，楊堅三辭三讓而受天命，登基稱帝，改周為隋，建元開皇，宣布大赦天下。
立王後獨孤氏為皇後，王太子楊勇為皇太子，降周主宇文闡為介國公，5月，楊堅派人害死宇文闡，諡號靜帝，葬於恭陵。
楊堅改朝換代簡單嗎？對比那些一步步打天下的開國之君，他的皇位來得自然是簡單了太多。
但這場權謀的較量，利益的分割，該如何讓一眾門閥滿意，又如何保證皇室的主權，可是一門大學問。
開皇二年，即公元582年，楊堅以長安城凋殘日久為由，在城東南龍首山新建了一座城池，定名大興城，唐時改稱長安。
城內設東西二市，東市名都會，西市名利人，因係國都所在，商品豐富，人口稠密，成為當時最大的商業都市。
有鑒於當時幣製的混亂，楊堅下旨重鑄錢幣，鑄造標準的五銖錢，即隋五銖，禁用古錢和雜錢。
隋五銖的流通，使貨幣再次得到統一，極大的促進了商業繁榮。
隨後不久，楊堅又規定以古尺一尺二寸為一尺，以古鬥三升為一升，以古秤三斤為一斤，采用冀州刺史趙煚所定的銅鬥鐵尺，頒行全國，使度量衡也再次統一起來。
另外，廢除入市之稅，罷酒坊，通鹽池、鹽井，與百姓共之，都非常有利於商業的發展。