胡惟庸之所以被提拔重用，並不完全是李善長的功勞，朱元璋在用人行政上從來都是不肯假手與人的，何況像宰相這樣重要的位置，朱元璋雖然依靠淮西集團起家，但是，一旦大功告成，這個羽翼豐滿的政治軍事集團就成為朱元璋在背的芒刺，必欲除之而後快。李善長是淮西集團的文臣的頭子，經年經營地盤，已經形成了獨特的政治勢力，所以，朱元璋雖然口頭上說善長“功甚大，宜進封大國。”而暗中則指使汪廣洋、陳寧彈劾李善長，敗壞李善長的政治聲譽。胡惟庸不過是朱元璋原來帳下的一個文書，朱元璋正是看中了胡惟庸並無黨羽而且又是李善長陣營的力量，才決定把胡惟庸抬起來以製約善長的，然而，他沒有想到胡惟庸居然不能體會皇帝的本意不過是想把宰相變成高級秘書、幫辦的宏偉戰略意圖，反而加緊和李善長搞好個人關係，這讓朱元璋不能不緊張，不能不惱火，不能不重視了。史稱胡惟庸“嚐以曲謹當上意，寵遇日盛，獨相數歲，生殺黜陟，或不奏徑行。內外諸司上封事，必先取閱，害己者，輒匿不以聞。四方躁進之徒及功臣武夫失職者，爭走其門，饋遺金帛、名馬、玩好，不可勝數。”胡惟庸的所作所為和朱元璋的骨子裏的的指導思想“至尊之位，操可致之權，賞罰予奪，得以自專”已經完全南轅北轍了，皇帝不殺他已經不行了，有點時不我待的感覺。
朱元璋的步驟很緊湊，先是殺了他一直覺得不對勁的汪廣洋，然後讓塗節上表告變，說是胡惟庸聯絡陳寧等人準備造反，就此殺掉了一大批功臣宿舊，包括依附胡惟庸的官員和六部官屬。大小官員被處死者多至一萬五千餘人，而後在洪武十九年窮治胡黨，竟然編造出了胡惟庸通倭的證據，就此又殺了唐勝宗、陸仲亨、費聚、趙庸，最後連李善長也成了胡黨最後的黨徒。其中，吉安侯陸仲亨十七歲開始追隨朱元璋起義，朱元璋說他是“此我初起時腹心股肱也”，而後在所謂的謀反審訊過程中，朱元璋明明知道陸仲亨並不是什麼真正意義上的大逆不道，仍然自己編造了一個借口說：“朕每怪其居貴位有憂色”這簡直就是莫須有的罪名了。平涼侯費聚連兒子費超的命都給朱元璋賠進去了，反過頭來還要被朱元璋說是胡黨，朱元璋說費聚是“聚曩使姑蘇不稱旨，朕嚐詈責，遂欲反耶！”陳年的老帳都翻了出來，可見，費聚不死都不行。這點就是《明史》作者都看不過眼去。
在胡惟庸死後，朱元璋毅然廢除了丞相製度，暴露出他蓄謀已久的真實想法。
李善長的弟弟李存義雖然和胡惟庸有姻親的關係，但是，並沒有把李善長牽連進來，隻是貶斥了李存義而已，但是，李善長不知是什麼緣故居然沒有謝恩，這讓朱元璋老大的不快活，聯係到洪武初年李善長的種種驕橫的做法，朱元璋準備對李善長動手了。
對付李善長這樣的功臣第一，自然不能向對付胡惟庸那樣簡單，偏偏李善長因為建造府邸的緣故向湯和借了三百人使用，讓湯和給告發了，善長又給丁斌求情，這讓朱元璋抓住了把柄，用嚴酷的刑訊逼供丁斌，得出了李存義奉了胡惟庸的口信請李善長加入謀反同盟的所謂的證據，還有李善長不舉報胡惟庸交通倭寇的旁證，總之，一個家奴居然把主人在密室內說的話都舉到了禦前。
朱元璋這樣才從容的下命令說：善長元勳國戚，知逆謀不發舉，狐疑觀望懷兩端，大逆不道。然而，還是不殺善長，直到有司說星變，需要殺大臣消災，於是，善長為了朱元璋做了最後一次貢獻，全家七十多口人同時被殺，李善長時年已經是七十七歲的人了，賜死給予全屍，算是朱元璋對這位開國輔運推誠守正文臣、特進光祿大夫、左柱國、太師、中書左丞相，封韓國公，歲祿四千石，子孫世襲。予鐵券，免二死，子免一死的“與陛下同心，出萬死以取天下，勳臣第一，生封公，死封王，男尚公主，親戚拜官，人臣之分極矣”的多次稱之為“賽蕭何”的最大的功臣的酬勞。
李善長冤死之後，郎中王國用上表抗言，以朱元璋的暴烈的性格也竟然是理屈詞窮，無言以對。
胡惟庸一案標誌著淮西集團文官勢力的基本鏟除殆盡。下麵的目標就是武將勢力了。
明初武將的首領是徐達、常遇春，洪武三年之後，經常統兵在外，剿滅北元勢力的也就是徐達、李文忠、鄧愈、湯和、馮勝等人，洪武十八年，徐達、李文忠死後，克靖沙漠的基本就是馮勝、傅友德、藍玉三人了。其中，藍玉成為明太祖朱元璋晚年的軍事上的主要助手，朱元璋把他比作衛青，可見，信任之專，寵遇之隆。然而，也就是因為這個開平王常遇春的內弟、淮西集團軍事首領，在朱元璋臨死前的幾年中，竟然掀起了一起比之胡惟庸一案更大的政治謀殺案。原因自然是比較複雜的。
藍玉本人，史稱：“饒勇略，有大將才。中山、開平既沒，數總大軍，多立功。”特別是在洪武二十一年，藍玉大敗元軍於捕魚兒海，“殺太尉蠻子等，
降其眾。元主與太子天保奴數十騎遁去。玉以精騎追之，不及。獲其次子地保奴、妃、公主以下百餘人。又追獲吳王朵兒隻、代王達裏麻及平章以下官屬三千人，男女七萬七千餘人，並寶璽、符敕金牌、金銀印諸物，馬駝牛羊十五萬餘。焚其甲仗蓄積無算。奏捷京師，”這是明朝建國之後對北元取得具有決定意義的關鍵一戰，至此，北元一蹶不振，不敢再與明朝正麵相較於北方。洪武二十四年（公元1392年）元降將月魯帖木兒在建昌起兵反。藍玉領兵平亂，擒月魯帖木兒父子，送京師處斬，進封太子太傅。藍玉早年追隨沐英、傅友德、馮勝等人或定雲南、或平蜀中、或征沙漠，軍功顯赫無比，朱元璋以大將軍馮勝獲罪在軍中任藍玉為大將軍，恩比徐達、常遇春。但是，藍玉本人是一個赳赳武夫，對待朱元璋的寵信顯然估計不足，以為可以就此子孫萬代了，所以，經常暴露出功臣素有的驕縱來，“黜陟將校，進止自專”，平北歸來，就有人告發藍玉*元妃，又闖喜峰口，藍玉以軍功最大，封為太傅，本人居然說：難道我不配做太師嗎？藍玉的幹兒子實在太多，這和元末的起義軍的傳統有關，朱元璋的幹兒子據說就有數十人之多，關鍵是藍玉的這些義子平素狗仗人勢，四處惹是生非，禦史告發他們，藍玉一怒之下把禦史給趕跑了。朱元璋曾經在頒發給藍玉的鐵券中寫進了藍玉的不法之事，在於警告藍玉安守人臣之分，但是，藍玉並沒有重視起來，洪武二十五年，太子朱標死，皇長孫朱允炆孱弱，朱元璋開始對功臣的存在倍感不爽起來，而這時候，一貫幹犯法度的藍玉成為首當其衝的靶子。
早在洪武十三年胡惟庸一案初起時，朱元璋就開始有計劃的誅殺武將了，隻是還沒有大規模的鋪開而已，洪武二十三年先後殺了陸仲亨、費聚等人之後，朱元璋的態度已經相當明顯，特別是洪武二十五年八月，借故兒子不法殺害老朋友江夏侯周德興一事在功臣中引起很大的波瀾，在朱元璋的老鄉和朋友中，幼年和朱元璋關係最好的就是周德興和湯和，周德興年長，朱元璋呼之為兄，洪武十四年五溪蠻亂，朱元璋不顧周德興年高，仍然請周德興出麵，還給周德興戴了一頂高帽子，說德興是馬援和趙充國，後來，福建有事，朱元璋又找到周德興，說的更加懇切，“福建功未竟，卿雖老，尚勉為朕行”，結果，周德興仍然不免賜死的下場，即使是這樣，藍玉也沒有感覺到朱元璋的屠刀正在逼進自己。當然，朱元璋並不會因為藍玉的渾然不覺而放棄屠殺。相反，則加快了屠殺的步伐。