此時，盡管朱元璋擁有十萬兵力，聲勢比過去大了很多，但是占有的地盤仍然很少，而且四麵受敵。東麵和南麵是元軍，東南是張士誠，西麵是徐壽輝，雖然同是反元武裝，但是張、徐二人同小明王卻相互敵視。不過，北麵小明王、劉福通率領的紅巾軍主力，大大牽製了元軍，而且，張士誠、徐壽輝的力量還不足以兼並朱元璋。這樣一來，朱元璋暫時沒有對付不了的敵人，並且麵臨著一個很好的發展機會。
朱元璋目前首要的任務是鞏固以應天為中心的根據地。於是在占領應天不久，朱元璋立即派徐達攻取鎮江。出戰前，為了嚴明軍紀，朱元璋故意以放縱士卒的罪名將徐達抓起來，並準備以軍法處斬。此時，李善長出來求情，眾將不知是計，也一起求情。於是朱元璋就順水推舟，說看在眾人的麵上，暫時免去徐達死罪，不過要徐達攻下鎮江後，做到不燒不搶，方可完全赦免徐達之罪。眾將見對待主將尚且如此嚴厲，因此，無不嚴守軍紀，鎮江很快攻下。
到1357年冬，朱元璋在一年的時間裏先後攻下了金壇、丹陽、江陰、常州、常熟、揚州等地，控製了應天周圍的戰略據點。到1359年，從現在的地圖看，朱元璋已經占領了江蘇南京、太湖以西，往南經江蘇、安徽、浙江三省交界處，到浙東的一塊長方形地區。與四年前剛占領應天時相比，形勢已大有改觀。
在完成了“高築牆”的部署後，朱元璋便著手實行“廣積糧”了。在初期，軍糧的解決主要是靠強征，即征收“寨糧”。但是長此以往，軍隊就會成為純粹的破壞力量，失去民心。為了解決糧食問題，朱元璋除了動員百姓進行生產外，決定推行屯田法，大力開展軍隊屯田，任命元帥康茂才為都水營用使，負責興修水利，又分派諸將在各地開墾種田。幾年工夫，到處興屯，府庫充盈，軍糧充足。
在1360年，朱元璋下令不再征收“寨糧”，以減輕農民負擔。為了積糧，朱元璋明令禁酒，但是其手下大將胡大海的兒子胡三舍與別人違法犯禁，私自釀酒獲利，朱元璋知道後，下令殺了胡三舍，有人進諫說胡大海此時正在攻打紹興，希望朱元璋可以看在胡大海的麵子上放了胡三舍。朱元璋大怒，堅決嚴明軍紀，於是自己動手將胡三舍殺掉。
在爭取民心的同時，朱元璋還不斷網羅人才，特別是地主階級的知識分子，朱元璋在應天還專門修建了禮賢館來接待他們。這些人在朱元璋統一全國的過程中起了重要作用，如李善長、朱升。朱元璋十分尊重儒士，他曾在1358年召見儒生唐解實，詢問漢高帝、漢光武、唐太宗、宋太祖、元世祖平定天下之道，這也表明朱元璋決心要開創一個新的封建皇朝。
朱元璋建立以應天為中心的根據地，在長江上遊有陳友諒，長江下遊有張士誠，東南鄰方國珍，南鄰陳友定。方國珍、陳友定的目標在於保土割據，張士誠則對元朝首鼠兩端，沒有多大雄心；陳友諒最強，是朱元璋占領應天後遇到的最危險的敵人。
陳友諒本是徐壽輝手下大將倪文俊的部下。後來他殺死倪文俊，並於1360年挾持徐壽輝，攻占了太平、采石。於是陳友諒以為應天唾手可得，就殺了徐壽輝，在采石稱帝，國號漢，改元大義。
接著，陳友諒約張士誠東西夾擊應天，平分朱元璋的領地，應天大震。朱元璋隻好召集眾將商量對策，一時眾說紛紜。惟有劉基默不作聲，朱元璋知道劉基有主張，於是征求他的意見，劉基認為目前最危險的敵人莫過於陳友諒，必須集中力量消滅他。雖然陳友諒勢力強大，但是他殺君自立，部眾離心，人民疲敝，故而不難戰勝，隻要等他們深入，再以伏兵擊之，不難取勝。
朱元璋同意劉基的判斷，於是設計誘敵深入，製造戰機。朱元璋的部將康茂才和陳友諒是老朋友，於是康茂才修書一封，派人送到陳友諒營中，約陳攻擊應天，並說願意在江東橋作內應。
六月二十三日早晨，陳友諒率艦隊主力趕到應天郊外的江東橋，才發現橋是石橋而非木橋，方知受騙中計。但為時已晚，朱元璋的伏兵奮起攻擊，陳友諒大敗。朱元璋收太平，占領信州、安慶。陳友諒敗逃九江，第二年八月攻下安慶，於是朱元璋率軍直取陳友諒的老巢江州，陳友諒逃往武昌，朱元璋攻克江西和湖北東南部。
正在這時，中原紅巾軍發生分裂，力量削弱。至正二十三年二月，張士誠乘人之危，派部將呂珍進攻安豐，劉福通向朱元璋求救。待到朱元璋率軍趕到安豐時，劉福通已被呂珍殺死，朱元璋隻救出小明王韓林兒，把他安排在滁州居住。
朱元璋率主力營救小明王時，陳友諒認為反攻時機已到，於是率兵進攻洪都（今江西南昌）。