1361年，元察罕帖木兒大舉進攻山東後，對南方尤其是江淮一帶的割據政權構成了直接的威脅。而張士誠、方國珍早已投降了元朝，朱元璋為了避免與察罕衝突，遣使與之“通好”。次年6月，察罕帖木兒函告朱元璋，說已經奏報朝廷，任命他為行省平章事，朱元璋不答。12月，元官張昶持“江西行省平章政事宣命詔書”至建康，朱元璋知察罕已死，拒不受命。1363年正月，朱元璋致書察罕養子擴廓帖木兒，希望繼續保持和好關係。這樣，朱元璋仍然有機會在南方拓展勢力。
這時陳友諒的割據政權還有很強大的實力，成為朱元璋攻擊的主要目標。為了全力對付陳友諒，朱元璋接受了劉基的建議，在戰略上與張士誠結好，以便在與陳友諒的交戰中，使張士誠按兵不動，解除來自後方張士誠部的威脅。7月，陳友諒與朱元璋之間爆發了一場決定勝負的鄱陽湖水戰。陳友諒擁兵六十萬，大艦數十艘；朱元璋隻有二十萬人，用的也都是小船。朱元璋采用火攻，把陳友諒用鐵索聯結在一起的大艦焚毀了許多。雙方激戰數日，陳友諒失利，且戰且退，朱元璋部將緊追不舍。交戰當中，陳友諒被流矢射中而死。其子陳理突圍逃回武昌，朱元璋大獲全勝。
1364年正月，朱元璋稱吳王，仍用大宋龍鳳年號。2月，朱元璋親征武昌，陳理投降。陳漢政權建立五年而亡。朱元璋又陸續攻克兩湖、江西等原陳友諒所屬的地區。1665年開始，朱元璋命徐達、常遇春攻取長江以北張士誠轄區。1367年正月，朱元璋在龍鳳政權結束後開始稱吳元年。9月，徐達、常遇春等攻破蘇州，張士誠被俘，送往應天，自縊而死。隨後，朱元璋又消滅了割據浙東的方國珍，統一了東南半壁河山。
10月，朱元璋派遣徐達、常遇春率領二十五萬大軍北伐，並發布聲討元朝的檄文，提出了“驅逐胡虜，恢複中華”和“立綱陳紀，救濟斯民”的口號。檄文中還責備擴廓帖木兒、李思齊等相互吞並廝殺，是人民的大害。同時更指出，蒙古、色目人雖不是漢族，但是能知禮義，願意為臣民的，與漢人同等對待。這篇檄文，對於瓦解敵人，號召群眾起了很大的作用。12月，徐達先取山東，元山東諸將大多投降，朱元璋的軍隊進入濟南、益都等地。
1368年正月，朱元璋在應天府即皇帝位，國號明，年號洪武。3月，徐達、常遇春率軍由山東西進攻克汴梁。然後入潼關，擊敗李思齊的地主武裝。閏7月，徐達在臨清會集諸將，大軍沿運河北上，攻下青州（山東德州）、長蘆（河北滄州），進至直沽（天津市），元將也先白海口逃跑。28日，元順帝棄大都北遁。8月初二，徐達率北伐軍進入大都。元朝在全國範圍內的統治結束。自成吉思汗至此共15帝，163年。自世祖忽必烈定國號起，共11帝，98年。順帝北逃後，仍稱元朝。1369年，明軍攻克開平，順帝繼續北走。1370年（明洪武三年），元順帝在應昌（內蒙古克什克騰旗西達來諾爾附近）患痢疾而死，年51歲，其子愛猷識裏達臘繼位，退到和林（蒙古人民共和國鄂爾渾河上遊東岸哈爾和林）一帶，史稱北元。元朝實力的最後消滅是以1387年占據遼東的納哈出歸附明朝為標誌。1402年，北元才去掉國號。