隨著朱元璋軍事勢力的日益增強，他與各個義軍割據政權的矛盾也日益尖銳起來。群雄逐鹿中原，決戰天下的時機終於到來。
公元1360年夏，徐壽輝的部將陳友諒在江州(今九江)殺死徐壽輝，宣布即皇帝位。隨後就同張士誠合謀共同舉兵，進攻應天府，企圖順江而下一舉消滅朱元璋的隊伍。朱元璋根據當時的形勢，采取了鞏固東、西戰線，出擊東南的戰略，率軍前往抵抗，取得都陽湖決戰的重大勝利。都陽湖之役後，朱元璋的領土已擴大到長江中下遊的廣大地區。朱元璋在部下的再三勸進下，於公元1364年的農曆正月，在應天府自稱吳王，一個月後，朱元璋乘勝親征武昌，收降陳友諒之子陳理，湖廣遂劃入朱元璋統治的版圖。公元1366年，朱元璋命廖永忠自滁州迎小明王韓林兒至瓜州，將韓林兒沉入長江。
公元1366年底，朱元璋率軍征討張士誠。在逐步攻占了張士誠所屬各城鎮後，將其都城平江包圍。平江城十分堅固，一時難以攻克，朱元璋命令士兵在平江城四周築起長圍，搭架三層木塔，登上塔頂，在塔頂架起弓弩火銃和鐵炮，日夜轟擊；，不久城破，張士誠自縊身死。隨後，朱元璋又討滅了方國珍、陳友定，並乘勝南進，攻克廣東、廣西。這樣，朱元璋占領了長江中下遊這片人口眾多，物產豐富，文化發達的地區，從而有足夠的實力，去統一全國。
公元1367年，朱元璋派徐達、常遇春率軍25萬人北伐中原。在北伐檄文中，他針對元朝統治者的殘酷的民族壓迫政策，明確提出“驅逐胡虜、恢複中華、立綱陳紀、救濟斯民”的口號，並且宣布蒙古、色目人“有能知禮義，原為臣民者，與中夏之民撫養無異”。
徐達等率北伐大軍，按照朱元璋的計劃，先後攻下了山東和汴梁，這時，朱元璋在應天正式稱帝，建立明朝。就這樣，一個牧童和窮和尚，經過艱苦奮鬥，終於成了我國曆史上繼劉邦之後，又一位出身布衣的開國君主。在得知朱元璋稱帝的消息後，北伐軍士氣大震，揮戈西進，擊敗李思齊部，一舉攻下潼關。公元1368年四月間，北伐軍包圍大都。隨後朱元璋親自坐鎮汴梁，指揮進軍元大都的決戰。
當朱元璋的北伐軍橫掃中原，直逼大都時，元軍卻在因皇位的爭奪而忙於內戰。在得知潼關失守的消息後，元順帝才慌忙組織部隊迎戰。但已沒有絲毫戰鬥力的元軍一戰便潰，元順帝見大勢已去，急忙帶著後妃太子狼狽逃往上都(今內蒙多倫)。徐達隨後率軍攻進大都，統治中國97年的元王朝就此滅亡。
朱元璋稱帝後，繼續派兵南征北伐，終於在1387年完成全國的統一。然後，他開始製定和實施一係列加強中央集權和發展社會經濟的措施。首先就是製定法律，以法治國，在朱元璋的支持下，幾經修改的《大明律》於公元1397年正式頒布。《大明律》規定“謀反”、“謀大逆”者，不管主、從犯，一律淩遲，祖父、父、子、孫、兄弟及同居的人，隻要年滿16歲的都要處斬。對官吏貪汙，處罰也特別重。犯有貪贓罪的官吏，一經查清，一律發配到北方荒漠中充軍。官員若貪汙贓銀60兩以上，將被處斬首示眾、剝皮實草之刑。
朱元璋滿懷信心地帶頭實行自己製定的法律，而且執法相當嚴厲，他的女婿、駙馬都尉歐陽倫，憑著自己是馬皇後親生女兒安慶公主的丈夫，不顧朝廷的禁令，向陝西販運私茶。後來河橋巡檢司的一位小吏向來元璋告發了此事。朱元璋立即下令賜死歐陽倫，同時他還表揚了那位小吏不畏權貴的鬥爭精神。
朱元璋最值得後人稱道的，是他在經濟方麵所采取的一係列措施。元朝滅亡後，朱元璋接手過來的，是一個經濟全麵崩潰、生產大倒退的爛攤子。到處是哀鴻遍野，白骨遍於路的淒涼景象。五代和北宋時期的名城，後來南宋的京都杭州，元代時人口曾達百餘萬，而且在元末農民戰爭中，所受破壞也非常小、但人口也減少了三分之一。唐宋時代的繁華盛地揚州，待朱元璋部將廖大亨攻取時，城裏隻有18家居民。新任知府隻好在西南部截下一個城角，築起城牆，權作揚州府城。
出身貧賤的朱元璋非常理解百姓的苦難，他曾說過：天下剛剛平定，百姓的財力非常困難，就像不可拔剛會飛的鳥的羽毛，不可搖才種下的樹一樣。現在必須讓老百姓“安養生息”。
在鞏固明王朝的統治後，朱元璋製訂和頒布了一係列有利於社會生產恢複和發展的措施。
戰亂給社會帶來的足人口銳減，土地荒蕪的狀況，而要發展農業生產，就必須保證有充足的勞力資源，因此朱元璋第一個措施就是增加農業生產的勞動人口，他下令禁止地主蓄養奴婢，所養奴婢一律放為良民。同時還嚴格控製寺院的發展，明令各府州縣隻能有一個大寺觀，而且禁止40歲以下的婦女當尼姑，並嚴禁寺院收兒童為僧。20歲以上的青年願意出家，須經其父母申請，官方批準，出家三年後還得赴京考試，不合格的遣發為民。這些政策的逐步實施，使社會上增加了一支龐大的勞動力大軍。