隋文帝聽說了就特別下令，保留此樹，以示後人，表彰高熲的功績。甚至又加封高熲為左領軍大將軍，原來的官職也繼續保持。可見，高熲確實是才能出眾。
為了使隋王朝的統治得到進一步的鞏固和發展，隻是管轄統治區域內的事是不夠的，還必須北服突厥（注：
北方強大的少數民族），南平陳朝。在完成這兩項任務的過程中，高熲的功績尤為突出，他的政治才能與軍事才能得到充分的發揮。他是平陳計劃的主要策劃人。隋文帝表麵上任命楊廣為元帥，實際上是讓高穎做三軍的實際指揮者，所以在戰鬥中楊廣的意見並不重要，整個戰事貫穿的是高熲的思想。在平陳這件事情上，高熲主張收買江南朝野人士的人心，瓦解他們的鬥誌，一旦條件成熟，大軍渡江，一鼓作氣，拿下陳朝。事實證明，高熲的主張是正確的。開皇元年（581年），高熲向隋文帝推薦了賀若弼、韓擒虎二人，文帝就任命賀若弼為吳州（指以今蘇州市為中心的江南東部地區）總管，鎮守廣陵（今揚州市）；任命韓擒虎為廬州（今安徽省合肥一帶）總管，鎮守廬江（今安徽省廬江縣西南），要他們籌劃平陳之事。第二年發兵南征，高熲是總指揮，攻打陳朝。但出兵之後，陳宣帝的死訊又傳了出來，這時高熲並沒有急於“乘人之危”，拿下陳朝，而是根據形勢，果斷地決定以“禮不伐喪”（按照禮製，不應攻打正在服喪的人）為理由，停止進攻，班師回朝。不久，他又受命處理蕭岩叛亂（蕭岩原為南梁皇族，叛歸北朝，現又叛投南朝）的善後，以溫和態度對待蕭岩屬地江（長江）漢（漢水）一帶的屬民。隋朝與陳通使，以禮相待；抓到陳朝的間諜，都是發給衣服，客客氣氣地將他們送回。
高熲為何在陳朝唾手可得的時候，不去進攻呢？隋文帝在詢問高熲平陳的具體策略時，高熲才道出了緣由：“江北的天氣寒冷，收獲比較晚；江南的氣溫高，水田莊稼熟得早。在江南的收獲季節，稍稍集中兵馬，說是要出戰江南。他們看到這種情況，必定要屯兵守禦，這就可以耽誤他們的收獲時間。當他們集中軍隊時，我們就解散軍隊。我們反反複複地這樣幹，他們必定習以為常，從而麻痹大意起來。然後我們再調集軍隊，他們不會相信我們要出征。當他們猶豫之際，我們乘機渡江，登陸作戰，士氣必定高漲。另外江南的土質不好，房子都是竹子茅草做的，所有積藏，都不是在地窖裏。我們秘密地派人過去，乘風放火；如果發現他們修複好了，我們就再放火。這樣搞它幾年，他們的財力自然枯竭。”楊堅就按照他的設想去做，果然收到了很理想的效果。開皇九年（589年），隋軍分三路大軍，晉王楊廣、秦王楊俊及楊素為各路元帥，而統歸楊廣節度。高熲是晉王府元帥長史，掌握著實際的指揮權，三軍的進退全由他決定。東路大軍將領賀若弼購買了五六十艘舊船，造成陳軍錯覺，以為隋買船，鬆懈了鬥誌。他又下令，江防軍隊，每交替之際，一定要到廣陵集中，並且大排旗幟，讓營房帳幕遍布田野故意使陳看到。開始陳軍看到這種景象，以為隋軍要渡江。就急急忙忙準備抵禦，結果發現隋軍是換防，就習以為常，不加警惕了。他又經常派兵緣江狩獵，人馬喧囂，如此反複，也使江南陳軍麻痹起來。結果賀若弼由廣陵渡江，陳軍還不知道。與此同時，另一支軍隊在韓擒虎的率領下也渡江到了采石（今屬安徽省馬鞍山市）。賀若弼渡江後軍容整肅，紀律嚴明，有個士兵違紀到民間買酒喝，立即被斬首。他俘虜了陳軍六千人，全部予以釋放，發給糧食，打發他們回去，並將隋朝詔書，交給他們帶回，要他們宣傳隋朝伐陳的政策。結果，所向無敵，陳軍紛紛降附。隋軍迅速攻入建康（今南京市），抓到了陳帝陳叔寶，陳朝滅亡，隋朝大體統一了全中國。可以看出，高熲在平陳之役中，其主要作用是非常明顯的。隋軍貫徹了高熲的作戰思想，輕鬆地平定了江南。所以在一次宴會上，文帝高度讚揚了高熲：“高熲平定了江南，……，可以說是功勳卓著啊！”《隋書》在評價高熲時，也特別提到：高熲克服了東夏，平定了南國，運籌帷幄之中，決勝千裏之外。《資治通鑒》甚至這樣說道：“國家的富庶，是高熲努力的結果。”