1931年9月間，蔣介石飛到武漢，親自部署對鄂豫皖蘇區的第三次圍剿。他先是將馮玉祥係統的將領第30師師長吉鴻昌趕走，委任李鳴鍾任第30師師長，令該部駐信陽。然後調西北軍張相印第31師、葛雲龍第33師進駐黃麻地區；令第58師、12師和王牌軍第2師進駐豫南；趙冠英第69師進駐鄂東；徐庭瑤第4師和俞濟時的南京警衛師駐守武漢，擔任戰略總預備隊。
在這種嚴峻形勢下，張國燾在新集一手製造出許繼慎冤案後，又認為紅4軍在“申明書”中對他及中央分局的批評是“哀的美敦書”，是表示“將在外君命有所不受”，並背著他將紅4軍與分局的不同意見報告中央，是對他的個人權威的公開挑戰，絕對不能容忍這種風氣的滋生。於是，他召開中央分局和軍委會緊急會議。在會上，張國燾提出：現在曾中生等人竟到了公開反抗的地步，那是他們的執迷不悟，除了撤換以外，別無他法。因此，會議決定由陳昌浩接替曾中生任紅4軍政治委員。曾中生迫不及待地派陳昌浩到紅4軍中執行奪取兵權的緊急任務去了。
9月13日，陳昌浩乘坐紅軍第一架飛機“列寧號”趕往向皖西運動的紅4軍軍部，但因找不到著陸場而返回新集。第二天他再乘“列寧號”向皖西飛去，仍未找到可以安全著陸的地方，隻好再次返回。於是，陳昌浩當天帶著3名隨員，騎馬行程數百裏，在安徽六安縣的麻埠趕上了紅4軍的隊伍。陳昌浩一到軍部，就立即召集紅4軍領導人開會，宣布中央分局的決定：撤銷曾中生紅4軍政治委員的職務，由陳昌浩接任紅4軍政治委員。接著，他按照張國燾的指示，在紅4軍中開始了堅決的“肅反”！徐向前回憶說：“部隊一麵‘肅反’，一麵打仗。他（指陳昌浩）管‘肅反’，我管打仗。”“按照那時的規矩，‘肅反’是單線領導，決定權在政治委員。捕人，他有這個權力。相反，你要過問，便是越職擅權，不允許的。搬的是蘇聯那一套。有什麼辦法呀！”（注：徐向前《曆史的回顧》第153、155頁。）緊接著，在與敵人激烈的戰鬥中，陳昌浩首先在麻埠逮捕了紅10師參謀主任柯伯元、第28團團長潘皈佛、副團長丁超及範沱等20餘人。當晚，就對他們嚴刑拷打，但並沒有得到什麼有關口供。這說明張國燾在新集逼供出來的所謂許繼慎等人的“全盤反革命計劃”，是毫無根據的，完全是捕風捉影的牽強附會，真是“欲加之罪何患無辭”！紅4軍一邊向北行軍，一邊與土匪和反動民團作戰，陳昌浩一邊繼續大批逮捕紅軍指揮員。紅4軍轉戰到斑竹園時，陳昌浩一次就逮捕了第30團團長高建鬥、政治委員封俊、第35團團長王明、第36團團長魏孟賢等多人。徐向前後來回憶說：“陳昌浩同誌抓起來的那些紅軍幹部，都是跟我們一起打遊擊過來的，作戰勇敢，平時沒有什麼異常表現，一夜之間就成了改組派、AB團，使人不可理解。”“那個時候和現在不一樣，一天到晚大家在一起，吃飯，睡覺，行軍，作戰都是集體活動。誰有什麼心思、動靜，容易被大家看得清清楚楚。”（注：徐向前《曆史的回顧》第154-157頁。）紅軍繼續向北行進，繼續與反動地主武裝作戰，陳昌浩繼續在紅軍中逮捕人。紅4軍轉戰至商城以西的餘家集的那一天，陳昌浩又逮捕了紅12師師長兼皖西軍委分會主席許繼慎、師政治部主任熊受暄、第11師師長周維炯、第12師政委薑鏡堂等人，並對他們嚴刑拷打逼供。陳昌浩按照張國燾的指示，給許繼慎一案的牽連者數十人羅織的罪名是，“說這些人是4軍中的反革命，要舉行兵變，拖走紅軍去投降國民黨。”（注：徐向前《曆史的回顧》第154頁。）陳昌浩在紅4軍中大肆逮捕紅軍指揮員，在紅軍中引起不小的震動，連軍長徐向前也十分震驚，弄得人人自危起來。即使這樣，紅4軍廣大指戰員在徐向前指揮下，憑著對革命事業的無比忠誠，對光明與理想的執著追求，於9月底在仁和集采取圍點打援戰術，打垮國民黨軍第12師及其援兵三四個團。戰後，紅4軍於10月初西返至河南光山白雀園。