於是，朱元璋以徐達為征虜大將軍，統率全軍；以常遇春為副將軍，另以參將馮勝、右丞薛顯、參將傅友德各領一軍，全力北伐。
朱元璋再三申明軍紀，告誡出征將士，北伐不是攻城略地，而是推翻蒙元****、解除人民痛苦。隨後還發布了由宋濂起草的告北方官吏和人民的檄文，文中提出“驅逐胡虜，恢複中華，立綱陳紀，救濟斯民”的口號，這對中原地區的廣大漢族人民具有很強的號召力；檄文還表示，對於蒙古人和色目人若願為新皇朝臣民，則與中原人民一樣看待。
北伐軍節節勝利，迅速攻下山東諸郡。至正二十八年（公元1368年）四月占領開封，平定河南，同時攻克潼關。八月，攻克元朝首都大都（今北京），元順帝見孤城難守，於是帶著後妃太子慌忙棄城逃走，奔向漠北，統治中原長達九十九年的蒙元被趕出了中原。
在南征北伐不斷取得勝利的情況下，至正二十八（公元1368年）正月，40歲的朱元璋告祀天地，於應天南郊登基，建國號大明，改元洪武，以應天為南京。
經過十六年的征戰討伐，朱元璋終於實現了自己的夢想，“驅逐胡虜，恢複中華”，從一個橫笛牛背的牧童、小行僧，成為明朝的開國皇帝。
1371年，明軍入川，夏主明升暗降，四川平定。1381年，朱元璋命傅友德、沐英、藍玉進攻雲南，次年攻破大理，基成上完成了南方的統一。1387年，馮勝、傅友德、藍玉奉命進攻遼東元朝殘將納哈出，納哈出無路可走，隻好投降，遼東平定。至此，除漠北草原和新疆等地外，全國已基本上統一。
明朝建立伊始，中華大地經過近二十年戰亂的破壞，一片凋敝。對此情形，朱元璋實行了發展生產，與民休息的政策。1368年，朱元璋稱帝不久，外地州縣官來朝見，朱元璋對他們說：“天下初定，老百姓財力困乏，像剛會飛的鳥，不可拔它的羽毛；如同新栽的樹，不可動搖它的根。現在重要的是休養生息”。
1370年，朱元璋接受大臣建議，鼓勵開墾荒地，並下令：北方郡縣荒蕪田地，不限畝數，全部免三年租稅。他還采取強製手段，把人多地少地區的農民遷往地廣人稀的地區；對於墾荒者，由政府供給耕牛、農具和種子；並規定免稅三年，所墾之地歸墾荒者所有；還規定，農民有田五至十畝的，必須栽種桑、棉、麻各半畝，有田十畝以上者加倍種植。這些措施大大激發了農民墾荒的積極性。
除了民屯外，明初還有軍屯和商屯。軍屯由衛所管理，官府提供耕牛和農具。明軍士屯守比例是：邊地軍隊三分守城，七分屯田；內地軍隊二分守城，八分屯田。軍糧基本上自給自足。商屯是指商人在邊境雇人屯田，就地交糧，省去了販運費用，獲利更豐。商屯的實行，解決了軍糧問題，同時也開發了邊疆。
為了恢複和發展生產，朱元璋十分重視興修水利和賑濟災荒。在即位之初，朱元璋就下令，凡是百姓提出有關水利的建議，地方官吏須及時奏報，否則加以處罰。到1395年，全國共開塘堰40987處，疏通河流4162道，成績卓然。朱元璋出身農民，深知災荒給農民造成的痛苦，在他即位後，常常減免受災和受戰爭影響的地區的農民的賦稅，或給以救濟。
朱元璋還十分愛惜民力，提倡節儉。他即位後，在應天修建宮室，隻求堅固耐用，不求奇巧華麗，還讓人在牆上畫了許多曆史故事，以提醒自己。按慣例，朱元璋使用的車輿、器具等物，應該用黃金裝飾，朱元璋下令全部以銅代替。主管的官員報告說用不了很多黃金，朱元璋卻說，他不是吝惜這點黃金，而是提倡節儉，自己應作為典範。在朱元璋積極措施的推動下，農民生產熱忱高漲。明初農業發展迅速，元末農村的殘破景象得以改觀。農業生產的恢複發展，促進明代手工業和商業的發展。朱元璋的休養生息政策鞏固了新王朝的統治，穩定了農民生活，促進了生產的發展。