1356年，朱元璋的部隊攻下了六朝古都金陵。和他共同爭奪天下的主要有兩股勢力，一個是占據湖南、湖北和江西，自稱大漢皇帝的陳友諒；另一個是占據江蘇、浙江和安徽，自稱吳王的張士誠。朱元璋認為陳友諒是自己問鼎天下的最大障礙，故而製定了先消滅陳友諒的戰爭策略。朱元璋和陳友諒之間的決定性戰事是“鄱陽湖大戰”。這場戰役最終以朱元璋的勝利和陳友諒的戰死為結局。消滅了陳友諒之後，朱元璋瞄準了他的第二個目標張士誠。張士誠既無謀略，又無大誌，眼睜睜地看著朱元璋坐大。1366年，朱元璋攻破了張士誠的“國都”杭州。張士誠在平江（今蘇州）被俘，後於金陵自-Ta身亡。至此，朱元璋通向權力之路的兩個主要絆腳石都被清除。1368年，躊躇滿誌的朱元璋正式在金陵登基，建立了中國曆史上最後一個漢族皇朝——明朝。
元末明初的改朝換代有些特殊。中國曆史上以前的改朝換代，往往是在舊的王朝覆滅後，推翻舊王朝的各路英雄再來決一雌雄。而這次卻是各路義軍之間先進行你死我活的決鬥，決出勝者之後，再來結束舊王朝的性命。朱元璋滅亡元朝如摧枯拉朽一般迅速。洪武元年（1368年）七月，元順帝逃回了漠北；八月，元大都城陷，元朝正式走進了曆史。此後，朱元璋用了大概20年的時間消滅了盤踞在山西、陝西、四川、雲南和東北的小割據政權，完全統一了中國。這是漢族王朝在四百多年之後又一次統治中國全境，並且也是最後一次。
朱元璋的勝利自有其必然性。首先，朱元璋是一個勤於學習、不恥下問的人。朱元璋開始幾乎沒有文化，但他堅持學習，利用打仗的間隙讀書習字。等到戰爭勝利的時候，朱元璋已經是一個粗通文墨的人了。到後來，當上了皇帝的朱元璋仍不忘學習，“命諸儒進經史，躬自批閱，終日忘倦”。以至於他後來還能寫詩作賦，甚至還有佳作。其次，朱元璋善於籠絡人才。這一點，應當是所有開國君主的共通之處。因為打天下僅靠一個人的力量是不可能的，而且戰爭的勝負主要還是取決於戰爭雙方的謀略和智慧的對比。在朱元璋手下，可以說是彙聚了當時最優秀的人才。他文有劉基、宋濂、朱升，武有徐達、湯和、常遇春，擁有這樣一個團隊，焉有不勝之理？朱元璋攻取徽州後，馬上去拜訪當地的隱士朱升，從他那裏獲得了“高築牆，廣積糧，緩稱王”的錦囊妙計，定下了朱元璋逐鹿中原的戰略方針。而他倚重的軍師劉基（字伯溫）則是當時最出色的軍事家，朱元璋先攻陳友諒的戰略決策就是劉基建議的結果。重視人才和知人善任，是朱元璋成功的最關鍵因素。
在明朝建國之初，中央和地方的行政製度也是沿用漢唐舊製，中央設中書省、禦史台和大都督府，分管民政、監察和軍事事務。在中央層麵，中書省下轄六部，並設有丞相。洪武十三年（1380年），朱元璋一手炮製了胡惟庸案，並一鼓作氣廢除了丞相的職位。太祖提高了六部的地位，分掌民政事務，向皇帝直接負責，“罷丞相不設，析中書省之政歸六部，以尚書任天下事，侍郎貳之”。朱元璋恐怕他的子孫再恢複舊製，他在《祖訓》中立下嚴規：“以後子孫做皇帝時，並不許立丞相。臣下敢有奏請設立者，文武群臣即時劾奏，將犯人淩遲，全家處死。”朱元璋廢相，是對一千多年中央集權政治製度的重大改革。六部直接向皇帝奏請裁決，其實是皇帝代行相權。這一改革，使得皇帝的權力更加集中，也減少了權臣擅權的可能性。有明一代，雖有宦官幹政的情況，但外戚權臣把持朝綱的現象被杜絕了。從明朝起，宰相、丞相等字眼徹底成了曆史，清朝建立後基本上承襲了明製。經朱元璋改進後的行政製度維持了五百多年的時間，影響可謂深遠。