後來這名美國記者親身體會到上海已經是“血腥屠殺”的地方，根本不宜久留，之後便離開了上海，去了即將走到終點的“國民政府”武漢避難。
而上海的事情還沒有結束，同民族之間的屠殺絕對是不可饒恕的，是人類曆史上犯下的最愚蠢的錯誤。而這個錯誤的製造者就是蔣介石，而實施者就是陳立夫、白崇禧們。4月13日，槍聲響過之後，陳立夫吩咐陳群的事已經開始落實了——一個自稱“上海工聯總會”的組織突然代替了上海總工會。13日下午，上海總工會被查封、取締。共產黨人費盡心思組織起來的工人力量就在兩天之內瓦解了，實在令人痛心！
與此同時，蔣介石的勢力在南京、無錫、寧波、杭州、福州、廈門、汕頭等地以“清黨”為名，清洗共產黨員和革命群眾。與此同時，北方奉係軍閥張作霖於4月6日指使軍警采取突然行動，包圍蘇聯駐華大使館，逮捕李大釗等中共北方區委領導人和國民黨左派、蘇聯使館人員以及居民等八十餘人。廣東一地，就逮捕殺害了共產黨員二千多名，其中包括蕭楚女、熊雄等人。而遠在四川的劉湘、山西的閻錫山也紛紛響應蔣介石的號令，采取了“清黨”，一時間全國上下陷入到白色恐怖之中。
4月14日一早，上海知名人士鄭振鐸、胡愈之、吳覺農等七人聯名上書，強烈譴責軍方暴行。但令人沒想到的是，軍方總指揮白崇禧則安排東路軍前敵總指揮王瑞華，兵分兩路抵達上海臨時市政府，封閉了市政府。
已經到了這個地步，蔣介石隻能完全撕下麵具，他發布了《清黨公告》，正式與共產黨決裂。公告聲稱：照得此次中國國民黨中央監察委員會舉發共產黨連同國民黨內跨黨之中共黨員等有謀叛證據，請求中央執行委員會各委員在所在各地將首要個人就近知照公安局或軍警機關，暫時分別看管監視，免於活動，致釀成不及阻止之叛亂行為，仍須和平待遇，以候中央執行委員會開全體大會處分等因。（選《蔣介石言論集》）聲明發表之後，隨即電令各軍師長逮捕了總政治部主任鄧演達、副主任郭沫若以及軍政部主任李富春、朱克靖、林祖涵、彭澤湘、廖乾等跨黨分子。而其提到的“和平待遇”一直是蔣介石作風，隻不過一句客套話罷了。
4月17日，由於共產黨和左派長老級人士聯盟上書給武漢國民政府，汪精衛此時又覺得蔣介石過於囂張，於是下令開除了蔣介石的黨籍和軍銜。但一天之後的4月18日，蔣介石卻在南京立山為王，成立了新的“國民政府”，與武漢分庭抗爭。
隨著南京政府的成立，兩個有名的權力要會“中央組織委員會”和“中央宣傳委員會”也成立了，而這兩個委員會的頭頭分別是陳立夫和陳果夫。從此以後，國民黨內的“CC”派也就逐漸成形了。隻不過此時的陳立夫，主要任務還是“清黨”。在他的建議下，遠在廣州的黃埔軍校也成立了“清黨”檢舉委員會，誓言不放過任何一個角落裏的共產黨。
陳立夫儼然已是蔣介石眼裏的紅人，就像有人常說的一句話：某某人，我放心！此時的蔣介石也對陳立夫十分放心。