朱元璋聽後，覺得還是劉基想得全麵，於是摒棄眾議，采納他的計策。抓住勁敵，各個擊破，防止腹背受敵，成為朱元璋開創帝業的戰略方針。
劉基不但為朱元璋製定了總的戰略目標，而且在平定陳友諒的幾次大的軍事行動上，為朱元璋統一中國作出了更大的貢獻。
至正二十年(1360)閏五月，陳友諒攻下朱元璋的太平城後，殺死朱元璋養子朱文遜及守將花雲，在采石五通廟行殿稱帝。建國號漢，改元大義，並自命不凡，凱旋江州。隨後又約張士誠同攻應天，張士誠未允，陳友諒便自集舟師，自江州順長江引兵東下，直指應天。一路浩浩蕩蕩，聲勢浩大。消息傳來，應天震動。朱元璋慌忙召集群臣商討對策。有的說陳友諒驍勇善戰，銳不可當，今占有江、楚、控扼長江上遊，地險而兵強，才剽勢盛，與之爭鋒，如同以卵擊石，自取滅亡，不如就此將應天城獻給他，歸附在他的旗下；有的認為陳友諒新得太平城，氣焰正盛，莫若先退出建康，鍾山有王氣，可以據守在那裏，待其氣衰，再與之決戰；有的說陳友諒不過一沔陽漁家，刀筆小吏，要與他在建康決一死戰，萬一戰不勝，即使逃走也不遲。
朱元璋覺得都不甚妙，但一時又不得要領。他環視了一下全場，見劉基雙目炯炯，沉默不言。朱元璋見狀，知道這位軍師一定又有妙計在胸了。他連忙召劉基進入內室，問他為何一言不發。劉基憤憤地說：“先立斬主張投降及逃鍾山的人，才可以樹立正氣，消滅陳賊。”朱元璋說：“先生有何具體計策?”劉基答道：“陳友諒這次是以驕兵來戰，勞師遠襲。而我們則有了上次失守太平城的教訓，並且是以逸待勞。天道以後舉者勝，我們哪裏害怕打不贏他嗎?現在我們的當務之急是敞開府庫，心懷至誠，以穩固士民之心。古代兵法說，日行300裏，奔襲敵人，即使不交戰也會潰敗。為什麼?勞士疲勞!我們可先放棄幾個地方，移走兵餉，裝成逃跑的模樣，再派人假裝投降，引誘陳友諒全速奔襲，我們卻中途設下埋伏，派兵截斷他的後路，叫他首尾難顧。後援不至，奪敵之心；設伏圍攻，亂其部署；以逸待勞，挫其銳氣，怎麼會有戰而不勝的道理!然後我們乘勝追擊，陳友諒必然拚力逃命，我們不僅能收複失地，還可以占領他的屬地。陳友諒遭此慘敗，進一步製服他就容易了。帝王之業，在此一舉，天賜良機，豈可錯過?”
此言正合朱元璋心意。然後他們密謀，先命胡大海出搗信州，牽製陳友諒後路；命常遇春、馮國勝、華高、徐達等將領各處埋伏，打算截擊。一切部署停當，朱元璋先請陳友諒的老朋友康茂才給其寫一封密信，假稱與陳友諒裏應外合，請他趕快來攻城。
陳友諒收到信後，不禁一陣暗喜：“這下勝券在握了。”他急於取勝，占領建康這塊風水寶地，於是馬上發兵進攻。
朱元璋這邊也在積極準備：先在石灰山側埋伏奇兵3萬人，並拆掉江東木橋，易以鐵石，設置水障，隻等他中計。時日既到，陳友諒果然如約，引著戰船徑直駛入一條狹窄河道。到達江東橋時，看見橋下都是大石塊，沒有了原來的木橋。他甚為驚異，連忙用暗語聯絡，並無一人答應。這時，陳友諒方知中計，但想撤退已遲。
朱元璋的軍隊見陳友諒已到達江東橋，黃旗一舉，伏兵見此信號，跳躍四起，水陸夾攻。不一會，陳友諒全軍就被殺得大敗，他自己獨自跳上另一小船逃走了。朱元璋指揮大軍乘勝追擊，太平城失而複得，取得了保衛建康的大捷。
勝利後論功行賞，朱元璋欲將最高級別的“克勝獎”獎給劉基。劉基認為自己隻圖懷才有遇、學有所用，不圖眼前的名利，故堅辭不受。從此之後，劉基聲名大振，人們都說他是諸葛孔明再世。