1357年，朱元璋采納了池州學正朱升提出的“高築牆，廣積糧，緩稱王”的建議，注意恢複和發展農業生產，建立鞏固的根據地。1358年，朱元璋設立營田司，以康茂才為營田使，在各地興修水利，預防旱澇，經營農田。又設立管理民兵萬戶府。選拔強壯農民且耕且戰，使土地得到了及時地開墾，保證了軍糧的供應，恢複和穩定了農民的生產和生活，增強了根據地的經濟實力。同時，朱元璋對地主階級的儒士及一些代表人物采取了優待的政策，李善長、汪廣洋、陶安、馮國用等人都被重用。1360年，朱元璋又征浙東名士劉基、宋濂、章溢、葉琛到建康。劉基，字伯溫，曾任江西高安縣丞、江浙儒學副提舉，一度棄官隱居，後出任江浙行省都事，因反對朝廷招安方國珍而被革職。回鄉後組織地主武裝，鎮壓當地起義軍。劉基被朱元璋招致建康後，勸朱元璋脫離韓林兒大宋政權，獨樹一幟，並為其籌劃用兵策略。劉基、宋濂等人都被重用。朱元璋完全明白得人才而得天下的道理。
當時，朱元璋應天府政權所控製的地區以外，在東、西、北三麵均有勁敵。東麵是張士誠的勢力範圍；西麵是徐壽輝政權；北麵是劉福通紅巾軍控製的地區。拓展根據地也是極其艱難的。他在向四外擴展的同時，重點向東南推進。采取以擴展東、西為輔，出擊東南為主的戰略，然後準備實力與群雄逐鹿中原。
從1357年開始，朱元璋出兵江北，奪取了張士誠的泰興，“青軍”的揚州；東向取張士誠的長興、常州、江陰等地；向南奪取元朝寧國路（安徽宣城）、徽州（安徽歙縣）、池州等地；向西打敗趙普勝，取青陽縣（屬安徽）。1358年，朱元璋繼續攻取浙東各地，克建德（今浙江建德東北），改稱嚴州府；克婺州（浙江金華），又稱寧越府，後又改為金華府。朱元璋在寧越開郡學，聘宋濂等人為師。1359年，朱元璋率軍向東西兩麵發展，在西麵打敗陳友諒，收複池州。又破潛山、攻安慶。在東麵，部將胡大海取張士誠的諸暨（屬浙江），又攻破元的處州（浙江麗水）。常遇春克元朝的衢州（屬浙江），攻杭州而不克。至此，皖南以及浙江的東南部已為朱元璋所控製。這時，在朱元璋的周圍還有北鄰張士誠部，西臨陳友諒部，東南有方國珍，南鄰陳友定。1360年閏5月，陳友諒勾結張士誠，東西兩麵夾擊朱元璋的根據地應天府。陳友諒部攻陷了太平，太平守將花雲被俘而死。隨後陳友諒又率水軍東下進攻建康。建康軍民大震，有人獻計以城投降；有人提出逃奔鍾山據守；還有人主張決一死戰，戰而不勝再走也不晚。而劉基從中一言不發。朱元璋內心不讚成諸將的建議，就召劉基入內問計。劉基說先斬主張投降和逃奔的人，並說“我們以逸待勞，還怕不能取勝？如果打開府庫，慰勞將士，以至誠之心對待他們，安定民心，穩定情緒，就能夠使軍民團結，將士用命，然後設下埋伏，乘機出擊，一定會取威製勝，成就王業。其關鍵也就在此一舉”。這使朱元璋更加堅定了信心。隨後他就派人快速去告諭胡大海，令其率軍直搗信州（江西上饒），從後方牽製陳友諒的軍隊。又召指揮使康茂才說：“你曾與陳友諒有過交往，如今他正率軍進攻建康，我想要他的軍隊盡快前來，這非得你出力去引誘他不可。你現在馬上寫封書信給他，假裝說投降於他，你作為內應，招他速來，而且你還要將這裏的情況編造一番告訴給他，好讓他相信你。最好還建議他分兵三道而來，以分散他的力量。”茂才答應後，說：“我家有一看門老人，過去也曾在陳友諒手下做事。讓他帶著書信前去，陳友諒必信無疑。”朱元璋將這些事告訴給了李善長，善長說，正擔心的是敵人來，為什麼還要讓他們快些來呢？朱元璋說，如果張士誠和陳友諒一起來進攻，我們怎麼對付他們，不如讓陳友諒軍隊提前趕來，先打敗他，那麼張士誠就害怕而不敢來了。看門老人至陳友諒軍前，友諒得到書信後非常高興，急忙問道：“現在康公在哪？”老人說：“正帶兵守衛江東橋。”又問：“橋是什麼樣的？”老人說隻是一座木橋。友諒更加欣喜，準備酒食，熱情地招待了老人一番。臨別前，友諒對老人說：“回去告訴康公，我立即率軍前去，到時候就呼老康為信號。”老人滿口答應，返回後如實報告給了朱元璋，朱元璋也高興地說敵人中我的圈套了。於是立即命令李善長乘夜撤掉江東木橋，換上鐵石，天亮時，鐵石橋已成。朱元璋又作了嚴密的部署。果然陳友諒率大軍前來，至江東橋時，見到的是一座鐵石橋，頓時感到吃驚和懷疑，急忙連聲呼喊老康，但根本無人答應，他這才知道大上其當。結果被朱元璋軍隊打敗。陳友諒乘小船逃走。朱元璋諸將乘勝追擊，收複了太平，進克安慶，陳友諒晝夜不得休息，還於江州（江西九江）。張士誠見此，果真不敢出兵。