楊堅的下一個目標，就是建都建康(今江蘇南京)的陳了。
當時，坐在建康皇宮龍座上的是陳叔寶。
陳叔寶多才多藝，風流倜儻。但他的聰明才智全用在玩樂上，整日沉湎於酒色之中。
煙籠寒水月籠沙，夜泊秦淮近酒家。
商女不知亡國恨，隔江猶唱《後庭花》。
這是唐代大詩人杜牧的《泊秦淮》詩。
詩中說的《後庭花》，全名為《玉樹後庭花》，是陳叔寶與嬪妃飲酒作樂時譜寫的曲子。他最寵愛的妃子，一是張麗華一是孔貴妃，就連上朝聽政，也要一手攬著張麗華一手抱著孔貴妃，一邊與她們調情一邊決斷軍國大事。若兩貴妃插上一句，他馬上就說：“就按貴妃說的辦!"昏君在位，綱紀紊亂，奸佞專權，賄賂公行，江南錦繡江山被他們搞得烏煙瘴氣。幾個有識之士上疏勸諫，陳叔寶置若罔聞。
陳的覆滅已是指日可待。
廢除後梁以後，楊堅便加快了滅陳的準備工作。第二年秋，兵力布署既畢，楊堅下詔，大舉攻陳。
隋軍51．8萬人馬，兵分八路出擊：
晉王楊廣統兵出六合(今屬江蘇)；
秦王楊俊將兵出襄陽(今湖北襄樊)；
清河公楊素領兵出永安(今四川奉節)；
荊州刺史劉仁恩統兵出江陵(今屬湖北)；
宜陽公王世積將兵出蘄春(今屬湖北)；
新義公韓擒虎領兵出廬江(今安徽合肥)；
襄邑公賀若弼統兵出廣陵(今江蘇揚州西北)；
落叢公燕榮將兵出東海(今江蘇連雲港西南)。
八路大軍由晉王楊廣節製，在東起大海，西迄四川的數千裏戰線上，同時發起強攻。
陳叔寶仍在與張、孔二貴妃縱情歌舞。
不久，隋軍將士的呐喊就淹沒了皇宮裏麵的歌舞聲。第二年正月，賀若弼、韓擒虎兩路大軍突破長江防線，陳軍10萬將士，全無鬥誌，大將任忠投降，引韓擒虎所部從朱雀門攻入建康城。文武百官四散逃命，偌大一個宮殿，隻剩下一個叫袁憲的侍臣陪伴在陳叔寶身邊。”我從來待你不如他人，現在隻有你在這裏相陪，真令我追悔莫及。”陳叔寶說了幾句感激的話，就要找個地方藏起來，袁憲勸他說，事已至此，哪裏還有藏身之處?陳叔寶不聽，說：“鋒刃之下，怎敢大意?你不必多說，我自有辦法。”說完，就拉著張、孔二貴妃躲進一口枯井中。不久，隋兵殺人皇宮，見井邊有繩，伏下身去喊叫，不見答應，便說往下填石頭，才聽見喊聲，即用繩拉人，但覺得很沉，不免有些驚異，待拔出井外，才發現一根繩子係了陳、張、孔三人，眾人不禁失笑。
陳叔寶成了階下囚，陳各地官軍，也紛紛投降。
自西晉傾覆以來270多年的分裂局麵至此結束，全國重新統一。
在滅陳的當年，楊堅認為軍人和兵器的曆史使命應該結束了，否則，便會造成不安定因素。於是，楊堅下令：除邊疆和京師戍衛軍隊外，其餘的兵器等軍事裝備立即停止製造，民間兵器立即銷毀；軍人子弟應偃武習文。開皇十五年，楊堅又下令收繳天下兵器，若發現有私自打造者，嚴加懲處。開皇八年，又下令收繳江南三丈以上的大船。楊堅想消除一切不安定因素，確保楊氏家天下。
六、惡劣習性
從一個貴公子，一步步走向帝位，建立了自己主宰的皇朝，說明楊堅很有才幹。隋朝建立後，他厘定的政治、法律、經濟體製，承上啟下，影響深遠；廢梁，滅陳，使長期分裂的中國重新統一，凡此使楊堅成為中國曆史上一個很有作為的皇帝。但是，他身上也有很多惡劣習性：猜疑苛察、剛愎自用、喜怒無常、不學無術、惑於佛教等等。他的這些惡劣習性最終危及了他苦心經營、竭力維係的隋朝江山。
楊堅的皇位是篡奪宇文氏的，他極擔心臣子仿效他，篡奪皇位。故他對文武大臣保持高度警惕，留意他們的言行，常常疑神疑鬼。
虞慶則頗有才幹，很為楊堅賞識。楊堅代周後，任命虞慶則為內史監兼吏部尚書，是群臣中的第三號人物。後來，虞慶則升任尚書右仆射，頗受楊堅信任。開皇十七年，桂州(今廣西桂林)人李代賢反叛，朝中無人願領兵討伐，楊堅便指名要虞慶則去。虞慶則的內弟與虞慶則的妾私通，向楊堅說虞慶則的壞話，說虞慶則不願去。楊堅很不高興，懷疑起虞慶則的忠心來。凱旋回師的路上，虞慶則指著一個地方說：“若這裏有個合適的人把守，隻要有足夠的糧食，便難以攻破。”作為一名將領注意山川地形，本是正常現象。但有人把虞慶則的話密告給楊堅後，楊堅的疑心更大了，遂以圖謀不軌的罪名殺了虞慶則。
高熲是楊堅的得力輔佐，楊堅君臨天下，高熲被委以尚書右仆射兼納言的重任，位冠群臣，楊堅鞏固君主專製主義中央集權的統治措施，多出自高熲手。滅陳時，雖說晉王楊廣為總統帥，但高熲為楊廣的長史，主持各種軍務。北擊突厥，高熲為帥。高熲為楊堅立下赫赫戰功，楊堅頗為倚重。楊堅對皇太子楊勇日漸不滿，欲立晉王楊廣為嗣。高熲勸諫說廢長立少有違禮儀，因為楊勇的女兒是高熲的兒媳，楊堅遂懷疑起高熲來。最後，高熲被褫奪官爵，貶為平民。
猜疑是對自己的統治缺乏信心的表現。為了樹立自己的絕對權威，楊堅還濫用酷刑。
在楊堅的宮殿裏，放著棍棒，誰人不顧眼，便加杖打，有時一天就打數人。他還嫌行刑者下手過輕，懷疑他們是不是手下留情，行刑人隻得賣力往死裏打。有些大臣上疏，說朝堂非殺人之所，殿廷非杖罰之地，楊堅迫於輿論壓力，下令撤去棍棒，再想打人時，便用鞭子，但鞭子實在不過癮，便又用起了棍棒。有一次，楊堅又喝令杖人，兵部侍郎馮基百般勸諫，楊堅就是不聽，終於將那人打死了。過了一會兒，楊堅氣漸消，覺得那人罪不至死，便回頭訓斥身邊那些沒勸諫的人為什麼不阻止他。
楊堅喜怒無常，動輒殺人。一次上朝，個別武官服飾不整齊，楊堅認為這是對朝廷的不尊，責斥禦史為什麼不彈劾，喝令把禦史推出斬了。諫議大夫毛思祖行使職權，出來勸諫，也被殺頭。像這樣因一些輕微小事而誅殺官吏之事，經常發生。
盜竊確實讓官員們頭痛，為了杜絕盜竊，楊堅費盡心機，但都不奏效。最後，楊堅頒詔：凡偷竊一錢以上的都處以死刑，橫屍街上示眾；四人合竊一桶，三人合竊一瓜，也全部處死。濫用酷刑竟然到了這種地步。
楊堅不學無術，認為學問無甚用處，於仁壽元年（601）下詔，除國子監外，其餘的學校全部廢除。雖然大臣們再三勸諫，也終無法改變楊堅對文化的藐視。
楊堅不相信人，也不看重文化，卻信奉鬼神，無論哪路神仙，他都虔信、禮敬，特別是對佛教，他大加崇祀，廣建佛塔、寺院；佛教風靡全國。甚至對宮女渲染的妖精，楊堅也深信不疑。一次，嬪妃們說時常有人挑逗她們，楊堅斷定宮門防衛森嚴，外人進不來，定是妖精作祟，命令嬪妃們再發現有人挑逗，應揮劍砍殺。有個宮女遵旨實施，手中的劍好像砍在一堆腐骨上，沒有見血，宮女追，妖精跳入水池中不見了。楊堅信以為真，下令把池水淘幹，果然在池中捉到了一隻大烏龜!
楊堅不大講究吃穿，後世盛讚他節儉。但是，楊堅在建造宮殿上卻不怕浪費、奢靡。他做皇帝的第二年，便嫌從前的長安城規模太小，且經常鬧鬼，便詔令在舊城西北修築新城，命名為"大興城”。過了10年，楊堅對大興城失去了興趣，又在岐州(今陝西風翔南)耗費巨資興建豪華的仁壽宮。過了五年，又在仁壽宮和大興城之間修建行宮12座。
楊堅還時常沽名釣譽地搞點兒仁慈行為。一次，關中大旱，糧食欠收，百姓連糠菜都吃不飽。楊堅看到這種情況十分難過，說這是自己統治不好的結果。為了彌補過失，他帶著關中百姓浩浩蕩蕩向洛陽進發，去謀生路。這時，他的富麗堂皇的仁壽宮剛剛竣工，國庫中的存糧還滿滿的，他沒有拿點兒出來賑濟瀕臨死亡的饑民，卻讓百姓扶老攜幼，跋涉千裏去洛陽謀生。到了洛陽怎樣謀生，楊堅就管不了那麼多了。
楊堅想方設法鞏固楊氏的家天下，但他的這些行為又自壞長城。到他統治的末年，大隋皇朝已是危機四伏。
七、立嗣失誤
獨孤伽羅皇後出身名門望族，楊堅發跡，沾過獨孤氏的光，他對皇後獨孤伽羅心懷畏懼。可以說，楊堅統治著天下，獨孤伽羅左右著楊堅。楊堅上朝，獨孤伽羅同車相隨，隻是停在殿外，但獨孤伽羅派親信宦官跟著楊堅上朝，若發現楊堅對問題的處理有不當之處，便出來報告獨孤伽羅，獨孤伽羅就把自己的意見轉達進去。楊堅退朝，二人同車回寢殿。故宮中稱楊堅、獨孤伽羅為"二聖”。
獨孤伽羅嫉妒心很強，除了她之外，不許楊堅和別的女人親近。雖然三宮六院齊全，但那僅是一種擺設；楊堅也不是不好女色，隻是懾於獨孤伽羅的雌威不敢而已。一天，楊堅看見被充入後宮的尉遲迥的孫女很有姿色，忍不住與她親熱了一番。很快，後宮有人把這事密報了獨孤伽羅。獨孤伽羅臉上很平靜，沒什麼變化。待楊堅上朝後，獨孤伽羅便讓人殺死了尉遲氏。楊堅聞訊，憤懣難忍，又無處發泄，自己騎馬出宮，馳入山穀。大臣聞悉，驚慌失措，高熲、楊素等人騎馬追趕，拉住楊堅的馬頭苦苦勸解。楊堅憤怨滿腹，道：“朕貴為皇帝，行為卻沒自由!"
盡管楊堅憤憤不平，但他始終不能擺脫獨孤伽羅的影響、製約。在立皇嗣上，他再次為這個女人所左右。
楊堅有五個兒子：楊勇、楊廣、楊俊、楊秀、楊諒，都是獨孤伽羅所生。長子楊勇被立為皇太子，楊堅對他寄予厚望，10多歲時便讓他參與軍國大政。但隨著年齡的增長，楊勇越來越迷戀女色。獨孤伽羅最討厭的就是這事，甚至勸楊堅查辦有私生子的大臣。楊勇的第一個兒子便是私生子，是一個姓雲的女子生的。楊堅雖不滿獨孤伽羅對他的製約，但又不敢不與她同好惡。況且他對楊勇的私生子很不滿，懷疑那個私生子是否是楊勇的血脈，唯恐他亂了楊氏皇族的血統。楊堅開始斥責楊勇，誰知楊勇不買賬，甚至公開對抗，氣得楊堅七竅生煙。
楊廣早就覬覦著皇太子的位子，見楊勇惹父母討厭，心中大喜。他是個擅長玩騙術的人，遂使出渾身解數，討父母、特別是母後獨孤伽羅的歡心。他雖然是個好色之徒，卻裝得極為檢點，隻和王妃蕭氏相處，別的妃子生了孩子，便偷偷地殺掉。每逢父母駕臨他的府邸，他便把年輕貌美的姬妾藏起來，讓年老醜陋的宮女穿上粗劣的衣服充當嬪妃。獨孤伽羅越來越喜歡楊廣，鼓動楊堅廢了楊勇，另立楊廣為皇太子。
開皇二十年冬十月，楊堅終於下詔，廢黜楊勇，另立揚廣為皇太子。
楊廣做了皇太子，迫不及待地想當皇帝。
過了四年，楊堅罹病，在仁壽宮休養。楊廣急不可待地寫信給親信楊素，問他如何料理楊堅的後事。楊素的回信錯送給楊堅，楊堅大怒。楊堅喜愛的宣華夫人陳氏入侍，楊廣見了美貌的宣華夫人，不由得欲火燒身，獸性大發，企圖逼奸她。楊堅得知大怒，罵道：“畜生何足付大事!獨孤誤我!"他對身邊的侍臣柳述等人說：“速召我兒!"柳述等以為是叫楊廣，楊堅連呼：“勇也!"柳述等人便出去起草詔書，召被囚禁的楊勇前來。
風雲突變，楊廣驚慌失措，經與心腹密謀，他派爪牙宇文述，郭衍率東宮衛士包圍仁壽宮，撤換楊堅的衛士，把服侍楊堅的宮人全部趕走。一個仁壽宮就剩下了楊堅一人。
不久，楊堅死，享年64歲。
關於楊堅之死，《隋書·高祖紀》沒有明言是怎樣死的，後人根據楊廣采取行動後楊堅猝死，懷疑係楊廣殺死的。
楊堅的廟號為"高祖"，諡號是"文皇帝"，故史稱"隋文帝”。