劉基畢竟是位有血性、嫉惡如仇的人，雖然不願自己出麵，還是要兒子劉璉不經過中書省，直接向皇帝上奏章，報告這件事。這時胡惟庸正以左丞相主管中書省，。俗話說君子報仇，十年不晚，看來胡惟庸還是位君子。以前劉基在朱元璋麵前說了他的壞話，沒有讓他當丞相的一箭之仇，這下正是報複的時機。於是他指使其黨羽弄部尚書吳支彈劾他，誣陷他與百姓爭奪淡洋，隻是因為淡洋位居山海，有王氣，劉基想辟之以為墓地，圖謀不軌；百姓不肯讓給他，他就指派巡檢司，借官軍的名義逐趕居民，以致激起民變。吳雲的彈劾奏文呈上朝廷之後，胡惟庸借機公報私仇，請求皇上加以重辟，並要逮捕劉基的兒子。朱元璋知道這件事之後，覺得劉基也太過分了，皮膚有所動，隻是想到劉基是開國元勳，功勞太大，不忍心加罪於他，隻是象征性的處分一下，取消其傣祿，並移文傳達給劉基，使他知道了這件事。劉基接到了朱元璋的移文後，即刻入朝麵見朱元璋，由於心裏害怕，不敢辯護，怕進一步惹起太祖的不快，隻是引咎自責，請辦其罪，也不敢提回家的事。這樣一折騰，劉基終於病倒了。
不久之後，胡惟庸被提升為丞相，病中的劉基，在京師聽說了這件事之後，痛心疾首，悲傷地說道：“胡惟庸為相，定會出大禍，國家必然會大亂，生靈又將遭受屠戮。假使我的話不應難，那是因為蒼生民眾有天大的福份；如果我的話應驗了，這些芸芸眾生怎麼辦呢？”劉基悲憤交加，積憂成疾，臥床不起，洪武八年三月，朱元璋看到劉基行將就木，大發測隱之心，親自製表賜給劉基，並派使者護送劉基回鄉。回家後，劉基病得更厲害了，隻過了一個月，他就帶著無限的憂愴，滿腹的怨氣，離開了人世，終年六十五歲。一代謀士，卓越見識的劉基就這樣淒涼的長眠在家鄉的山峰上。劉基的死，首先與胡惟庸的進讒加害有關。史料記載，劉基在京病重之時，胡惟庸曾假惺惺的派醫生來給他診治，醫生給了他一些藥，吃了一些藥，吃了後，腹中就有拳頭大小的石頭積物。劉基本是一個寬宏大度之人，萬萬想不到胡惟庸會采取如此卑劣的手段毒害於他，真是以君子之腹度小人之心。其次與朱元璋多疑的本性有關，他對這樣一位忠心耿耿的功臣都不放心，為了自己的帝位，什麼手段都使得出來。這證明劉基當初請求隱居是完全有遠見的，隻是他還隱得不徹底，最終還是逃不脫走狗烹的可悲下場。劉基至死都沒有忘記對明王朝的效忠。在臨終前將自己用心血凝成的著作和預測時勢、人事的奏章呈獻給朱元璋，表現了一位既激又疏淡，既充滿激情又富有柔情的正直謀士的情致。說明了劉基既有飄逸曠達、澄明無滯的氣質，又有一顆放不下的心腸，為人生操思的拳拳之心。這是典型儒學人格的象征。