經過了“四一二”，陳立夫似乎對“清黨”上了癮，諸如某些人對“嗜血”上癮一樣，每當他聽到“清黨”二字的時候，就興奮得睡不著覺，似乎自己是專門為“清黨”而生的一樣。
1927年4月底的某一天，蔣介石找來陳立夫聊天。蔣介石是個不喜歡拐彎抹角的人，便直奔主題而去：“立夫啊，你對排除異己、清除共產黨有什麼看法？”
陳立夫說：“校長，我覺得共產黨明顯在跟國民政府對抗！這無異於清晚期洪秀全領導的農民起義，隻不過想複辟皇權……”
蔣介石琢磨了一下：“還不能這麼說……不過共產黨發展之快，大大超過我的預料！革命不久，國內又出現了這麼一個黨，令人望而生畏啊！立夫，如果換成你，你會怎麼做？”
陳立夫似乎早就準備好了答案：“我覺得現在各地還有大量共產黨的餘孽。餘孽不除，必成後患！古人常說，防禍於未然！我們要借著革命的東風進一步清除餘孽，以絕後患！寧可殺錯人，也不能放掉一個共產黨！”
蔣介石沉默了一會兒，然後拍拍陳立夫的肩膀：“好吧，這件事就由你負責吧，好好幹，校長不會虧待你的！”
“謝謝校長！”
一個經曆、目睹過血腥鎮壓的人往往有兩個反應：第一個反應就是害怕，第二個反應就是變得更加血腥和殘忍！陳立夫屬於第二種，他骨子裏對共產黨的憎恨，在與蔣介石談話後愈發加深。於是他開始做夢，夢到自己手持大棒親自拷問共產黨。他連續幾個晚上睡眠不好，眼圈發黑，他的助手也提醒他要注意身體。這些都是亢奮導致的結果。這個麵部潔淨的讀書人，清秀的麵龐在狂躁中隆起兩顆青春痘。陳立夫開始喝茶，從此養成了每次大事到來之前必須喝茶的習慣。
4月底蔣介石做了“清黨總動員”，5月初便成立了國民黨“清黨委員會”。蔣介石下決心如此之快，離不開陳立夫的旁敲側擊。而這一期清黨與“四一二”之前的清黨有所不同，這一期重點是利用警察和軍隊的力量，以取締共產黨及其機關團體，徹底清除各組織、各機關的共產黨。委員會成立的時候，陳立夫又慷慨陳詞一番：僅僅從各個組織中清除共產黨是不夠的，連同與共產黨緊密聯係的其他黨派也要清除，以防止其他黨派成員受到共產黨教唆，轉而投奔共產黨。
自從“清黨委員會”成立後，幾乎三天一小會，五天一大會。為了把“清黨”搞得轟轟烈烈，陳立夫和蔣介石沒有少費心思。蔣介石讓陳立夫向各組織、階層傳達指令，要求每一個國民黨員都參與這次重要的、具有曆史意義的“革命事件”！在傳達鼓動下，弄得各個國民黨黨員的眼睛充滿了對共產黨的敵視，甚至國民黨在上海舉行“五四”運動紀念大會上，也變成了聲討異己分子的大會。就連蔣介石都無奈地搖搖頭：看來真是反了！
隨著“清黨”運動的深入，清理的花樣也越來越多。有一次，陳立夫向下級人員交代具體的清理辦法：“不能隻靠武力，武力是解決不了問題的。現如今，共產黨都隱藏起來，所以我們要加強辨認能力，敢於揭發、檢舉！當然檢舉是有好處的，每檢舉一個共產黨，校長都會在功勞簿上給你們記一筆！”
有一些小嘍囉不解，便問：“如何才能辨別共產黨？”
陳立夫說：“共產黨有三個特點：一、說我們國民黨的壞話；其次他們總是籠絡人心、搞陰謀；再次共產黨人還會秘密收集我們的情報！如果遇到這種情況，就要向上級反映！”