其二是建都察院，下設十三道監察禦史，施行嚴刑峻法。都察院的權力是糾察百官的得失，監察禦史的官品雖然隻有七品，但什麼話都可以說，什麼大官都可以告，凡是大臣奸邪、擅作威福，小人構陷、擾亂視聽，以及貪贓枉法，變亂祖製和學術風氣等都在糾劾的範圍之內。
《明律》中的許多規定，在今天看來，確實是十分殘酷的，例如：凡奸邪進讒言使未犯死罪而致死的人處斬；如有人犯了死罪，有人用巧言進諫，使之免於死罪的，進言者也要被處斬；即使是掌管刑律的官員，如果聽從了上司的主使，減輕或是加重了罪犯的刑罰，也要被處死，並將其妻子充作官奴，家產沒入官府。對於貪汙，朱元璋的認識十分深刻，認為這直接關係到政治風氣乃至國家的生死存亡，他說：“吏治之弊，莫過於貪墨。”認為此弊不除，欲行善政，絕無可能。於是，《明律》規定，官吏必須廉潔奉公，即使因公出差乘坐公車，也不能捎帶私人財物，附載衣服等不得超過十斤，每超過5斤打十鞭，十斤加一等，直至笞至六十。凡貪汙者，至輕之罪也要發配到北方邊地，如果貪汙數額折價超過六十兩銀子以上，處以梟首、剝皮、實草之刑。其具體的做法是把犯官先砍去頭，然後再剝下皮，把頭掛在杆子上，把皮包上草秸，放在衙門口旁邊的土地廟外，或是擺在公座之旁，其用意是警告後來的官吏，不得再行貪汙。朱元璋的這一招雖不太“人道”，但卻十分有效，這種法令實行不久，吏治果然有所好轉。
但盡管如此，還是有些官吏膽敢以身試法，1385年，有人告發二司與戶部侍郎郭桓勾結貪汙，朱元璋迅速查勘，追出贓糧七百萬石。朱元璋大怒，把六部左右侍郎以下的官吏全部處死。經過拷打，又牽連了許多人，最後殺人總數，包括官吏和地主竟達數萬人之多。在這種嚴刑峻法和“運動”打擊結合的綜合治理下，洪武年間的吏治總算呈現出了新的麵貌。
其三是對官吏實行特務統治。中國古代政治思想中本來就缺乏人權觀念，但故意建立摧殘人權製度的，則由朱元璋創始，即三百年間使人聞而戰栗的“詔獄”和“廷杖”。
“詔獄”就是由皇帝直接指揮的皇家特務組織“錦衣衛”，後來又增設相同性質的“東廠”、“西廠”和“內廠”等非正規的司法係統，由皇帝最親信的宦官主持。這些特務組織最初是負責監視百官動靜的，隻是負責調查及逮捕謀反妖言大奸大惡之人，後來發展到專門用於迫害在政治鬥爭中的失敗者。這些特務組織相互交錯，密如蛛網，遍布全國的各個角落。這樣，街頭巷尾的一舉一動，夫妻吵架和市井打鬥，早上發生，晚上就到了皇帝耳中，這是中國前所未有的現象。
一次，博士錢宰罷朝回家，在路上信口吟道：“四鼓咚咚起著衣，午門朝見尚嫌遲，何時得遂田園樂，睡到人間飯熟時？”第二天上朝，朱元璋對錢宰說：“昨天做得好詩！不過我並未‘嫌’你啊，改作‘憂’字怎麼樣？”錢宰一聽，連忙跪下叩頭，嚇得出了一身冷汗。好在朱元璋並不是要追究他的罪責，而是要顯示自己的無所不知，錢宰才算沒有倒黴。吏部尚書吳琳告老還鄉，已是無所作為，但朱元璋還是不放心，常派錦衣衛去監視他。一天，一個特務向田間插秧的一個老農夫問訊道：“這裏可有個退了休的吳尚書嗎？”那老人措手答道：“我吳琳便是。”朱元璋得到了這一消息，知道吳琳並無異誌，十分高興，獎賞了吳琳。
大學