當另外一群流氓雜碎們瘋狂進攻上海市總工會以及工人糾察隊總指揮部時，則大演苦肉計，以備讓及時趕到的駐軍以製止械鬥為借口，強行繳下工人糾察隊員手裏的槍械，總共1700多支。此時糾察隊員毫無反抗能力，遭到了反動軍隊和流氓們的毆打、襲擊。最後打死打傷數百名糾察隊員，上海總工會和糾察隊指揮部被占領。此時才淩晨4點多，天還沒亮。
就在這時，槍聲開始連連響起。工人糾察總隊的指揮顧順章（後來成為共產黨內最危險的叛徒）到總會館視察，結果遇到六十多名反動軍人的圍攻。後來這一股反動軍人的頭頭向裏麵的糾察隊員喊話：“我們隻繳械，不殺人！請你們把武器放在地上，不要還擊！”
此時顧順章大義凜然、不畏生死：“你們這群烏合之眾，憑什麼繳我們的械……我們是革命軍！”顧順章的話沒有起作用，槍械還是被繳了，而且人也被扣押到上海寶山路天主堂二師司令部內。
此時天微微亮，但是上海總工會外已經一片狼藉，死傷人數眾多，上麵布滿了打砸留下的一攤攤血跡。事情發生後，為了掩人耳目，白崇禧在上海發表了一個聲明：“上海工人糾察隊，發生械鬥，當此戒嚴之際，且前方軍事正在進行，本司令官等為鞏固後方安寧秩序起見，不得不嚴行製止。已將該肇事工友武裝一律解除，並派員與上海總工會妥商善後辦法。”同時，白崇禧還聲稱如發生罷工，“不問首從，定即按照戒嚴條例，嚴懲不貸”。聲明發布之後，滿城上下貼滿了告示，警告工人不準搞“罷工”、不準“集會”，更不準“示威遊行”！
此時上海的工人力量遭到了重創，而主要指揮人周恩來等人也被扣押，上海灘重回蔣介石等人之手。但是集會、遊行並沒有在“暴力”中結束。第二天，也就是4月13日，上海地下總工會再次發布通電，號召全上海的工人繼續罷工，反抗到底。於是這一天，各個機關的工人開始罷工，有學生、工人、司機、海員等等，扛起反抗大旗，在全市開始遊行示威。
剛剛離開不久的蔣介石打電話給陳立夫：“立夫，上海的事怎麼樣了？”
陳立夫說：“共產黨還在組織力量反撲，我們正在想辦法控製！”
“一定要不惜任何代價拿下上海……”蔣介石語氣強硬，畢竟上海是“小金庫”，沒有“小金庫”支撐，蔣介石就沒法鬧“革命”！陳立夫接到命令後，立刻下令各組織進行抓人！如再不行，就開槍！
4月13日臨近中午的時候，天突然下起大雨（似乎老天有眼），上海閘北區的工人們向上海軍事當局施壓，要求軍民當局給予正麵回答。而此時，接到上級指令的第二十六軍二師突然向示威的工人們開槍掃射。頃刻間，集會的場所變成了“血腥”的海洋。慘叫聲、呼喊聲混雜在一起，場麵十分混亂。槍聲持續了15分鍾，地上已經躺下數百人，鮮血染紅了集會廣場，血流已經成河。
當時美國記者路易斯·斯特朗目睹了“四一二”在上海發生的一切，她這樣寫道：這是蔣介石召集九名婦女組成的團體，以負責婦女的組織工作，使婦女受到尊敬，並把她們從突然覺醒的華中婦女受到鼓舞的野蠻、赤色的革命熱情中解救出來。這九個成員中有五個在美、日、法、德留過學……她們聰明、文雅，渴望提高中國婦女的地位。可實際上隻是給每日在屠殺工人領袖的政權加了個文雅的門麵。她們閉目不見血淋淋的恐怖行徑，卻管它叫“恢複正常秩序”。她們很容易這樣做，因為她們從未親身經受過中國苦力及農民的痛苦。在她們看來，農民在湖南革命暴動時殺死一個地主或學者比為恢複軍事秩序而絞死二十名工人更可怕。在她們那充滿陽光的委員會屋子的牆上，掛著印刷的標語：掃除文盲、保護女工、改造家庭，其中還雜有“打倒共產黨”。（摘自《千千萬萬中國人》）