一切準備就緒，蔣介石於9日離滬赴寧，籌備建立南京政府。上海的反革命屠殺交由白崇禧指揮，楊虎、陳群具體執行。
11日，蔣介石發出“已克複的各省一致實行清黨”的指令。當天下午，駐滬的第二十六軍與“工界聯合會”的人員，布防街市，帝國主義侵略軍越過租界拘捕共產黨員和工人群眾1000餘人，解交駐龍華的蔣軍司令部。當晚，青幫頭子杜月笙以宴請為名，將上海總工會委員長汪壽華誘至家中殺害。12日淩晨，全副武裝的幫會分子，冒充工人，從租界內大量出動，向閘北、南市、滬西、吳淞、虹口等地的工人糾察隊進攻。尾隨於暴徒之後的第二十六軍部隊以“調解工人內訌”為名，強行收繳了2700名糾察隊員的槍械，並打死38人，打傷300餘人，占領了上海總工會。13日，上海20多萬工人舉行罷工，要求發還槍支，懲辦禍首，肅清反動分子。當遊行隊伍行至寶山路三德裏附近時，反動軍隊竟向徒手群眾射擊。工人、市民犧牲者百人以上，傷者無數。時值傾盆大雨，寶山路上血流成河。14日後，反動軍警進行全麵“清黨”，到處是戒嚴、搜查、毆打、逮捕、公開和秘密的屠殺。上海成了“虎狼成群”【“虎狼成群”是當時上海人民咒罵楊虎、陳群的雙關語。】的世界。據不完全統計，在事變後的三天中，反動軍警共殺害共產黨員和革命群眾300餘人，拘捕500多人，流亡失蹤者5000多人。爾後，著名共產黨人陳延年、趙世炎等壯烈犧牲。
繼上海“清黨”之後，4月14日，李濟深、錢大鈞等也在廣州召開緊急會議，決定成立“中國國民黨廣東省特別委員會”，錢大鈞任戒嚴司令，當晚實行戒嚴。15日，他們在廣州發動了“反共清黨”的反革命事變。反動軍警解除了黃埔軍校和省港罷工委員會的武裝，搜查並封閉了中華全國總工會廣州辦事處、省港罷工委員會、廣州工人代表會、鐵路工會、海員總工會及其他革命群眾團體，並大肆屠殺逮捕共產黨員和工人群眾。共產黨員和工人群眾有2100餘人被殺，2000餘名鐵路工人被驅逐。廣州工人曾進行示威反抗，但遭到鎮壓。優秀的共產黨員肖楚女、熊雄、李啟漢就是在這個時期被殺害的。
此外，江蘇、浙江、福建、江西、廣西、四川等省，都相繼發生了類似的反革命事變，無數共產黨人和革命群眾慘遭殺害。
與此同時，奉係軍閥在北方也進行血腥的屠殺，與國民黨蔣介石集團遙相呼應。4月6日，奉係軍閥搜查蘇聯大使館及其附屬機關，逮捕了蘇聯外交人員和在使館中避難的共產黨員李大釗等60餘人，並於28日將李大釗等20人絞殺。
四一二事變標誌著以蔣介石為首的代表民族資產階級右翼的國民黨新右派轉變為代表大地主大資產階級的反動派。蔣同中國共產黨人及國民黨左派的矛盾，不再是新舊兩種民主革命發展方向的矛盾，不再是革命統一點戰線內部爭奪領導權的矛盾，而是革命與反革命的矛盾。以國共合作為核心的革命統一戰線已局部被破壞，國共兩黨共同推動的國民革命在局部地區發生夭折。
在共產黨人和革命群眾的血泊中，蔣介石在南京另立國民黨中央和國民政府，與武漢的國民黨中央和國民政府相對抗。
4月15日，蔣介石在南京召開國民黨中央執、監委第四次會議，但由於到會人員不足半數，所以改為“談話會”。會議決定：定都南京，否認武漢國民政府及中央黨部。並通過恢複1926年7月所擬定的國民革命軍總司令職權等決議案。
18日，南京國民政府宣布成立，蔡元培代表國民黨中央授印，胡漢民代表國民政府接印。政府體製仍采用委員會議製，以胡漢民、張靜江、伍朝樞、古應芬四人為常務委員，胡為主席。國民政府下設民政(部長薛篤弼)、外交(部長伍朝樞)、財政(部長古應芬，錢新之代)、司法(部長王寵惠)、大學院(院長蔡元培)等部院，但實權掌握在蔣介石手中。
南京國民政府成立伊始，便發出經蔣介石圈定的“秘字第1號命令”，公布首批被通緝的共產黨員和國民黨左派名單，其中包括著名共產黨人鮑羅廷、陳獨秀、譚平山、林伯渠、吳玉章、惲代英、毛澤東、董必武、劉少奇、張國燾、蔡和森、周恩來、張太雷、蘇兆征等，共計197人。5月7日，以鄧澤如為主席委員的“中央清黨委員會”成立，統一主持全國清黨事宜。20日，該會頒布“清黨條例”，“通令全國各行政機關一體查照辦理”，並先後指派各省市“清黨”委員，組織各省市的“清黨委員會”。於是，南京政府以屠殺為主要形式的“清黨”運動遂由東南各省和兩廣地區陸續推及全國。
南京國民政府的建立，使中國出現了北京、武漢、南京三個政權對峙的局麵。奉張所把持的北京政府代表北洋軍閥統治著北方各省。蔣記南京政府一方麵大肆屠殺共產黨人和革命群眾，另一方麵仍抓住北伐的旗幟不放。但此時蔣的北伐，隻反映了新舊軍閥的矛盾，已毫無革命的意義。當時隻有武漢政府仍是國共合作的革命政權，不過，在反革命勢力的四麵包圍中，武漢政府很快出現了危機。
三、武漢地區的討蔣運動和繼續北伐
4月9日，汪精衛由上海回到武漢，在武漢地區(包括湘、鄂、贛三省)革命運動繼續高漲的形勢下，他仍以“左派領袖”的麵目出現，被迎任國民政府主席職。
在武漢國民政府的領導下，武漢地區首先掀起了聲勢浩大的討蔣運動。17日，武漢國民黨中央和國民政府下令開除蔣介石的黨籍，免去其本兼各職，並命令全體將士及革命民眾團體將其緝命解送中央，按反革命罪懲治；同時宣布將蔣指揮的第一集團軍歸軍事委員會直轄。20日，中共中央發表了《為蔣介石屠殺革命民眾宣言》，指出，“蔣介石業已變為國民革命公開的敵人，業已變為帝國主義的工具，業已變為屠殺工農和革命群眾的白色恐怖的罪魁”，表示完全讚成國民黨中央處置蔣介石的決議。22日，在武漢的國民黨中央委員、國民政府委員、軍事委員會委員40人聯名討蔣，號召全國民眾、全體黨員，尤其是革命軍隊，依照中央命令積極開展反蔣活動。中央軍事政治學校的學生和民眾團體，紛紛通電討蔣。武漢、長沙等地先後舉行大規模的討蔣集會。
在討蔣運動中，武漢地區的工農運動繼續高漲。1927年6月，第四次全國勞動大會在漢口召開。此時，全國的工會會員已發展到290萬人，工人運動也進一步發展。政治上，從爭取集會、結社、罷工的自由發展到要求參加政權；經濟上，從要求改善生活條件、取得團體契約權，發展到要求參加國有企業的管理。有的地方的工人接收了一些反動資本家歇業停工的企業，辦起了合作社。武漢的工人還建立了一支擁有5000人、3000支槍的工人糾察隊。全國農民協會的會員到1927年6月已發展到915人，其中湖南、湖北的會員有700多萬人。這些地區的農民運動已由減租減息發展到摧毀地主政權和開始解決土地問題的階段。湖南農民依靠鄉村政權，自己起來解決土地問題，由丈田(清丈田畝)而插標(把土地租佃權重新分配，以插標為記)、而分田(沒收分配地主的土地)。湖北一些農民也開始出現分田的鬥爭。
在土地問題日益突出的形勢下，武漢國民黨中央於4月初成立了由鄧演達、毛澤東、譚平山、徐謙，顧孟餘5人組成的土地委員會，著手研究製定解決土地問題的方案。經過一月多的討論，土地委員會通過了《解決土地問題決議草案》、《佃農保護法決議案》和《處分逆產條例》等7個決議案。《解決土地問題決議草案》規定：“將大地主的土地，及官地公地荒地分配給無地或土地不足以贍生之農民，對於小地主及為革命而努力之軍人的土地，應由國民政府加以保障”。《處分逆產條例》規定：凡軍閥、貪官汙吏、土豪省紳及一切反革命者的財產，“皆為逆產”，“一經合法發覺即沒收之”。當這些決議案提交國民黨中央政治會議審核時，因譚廷等人的反對，除《佃農保護決議案》和《處分逆產條例》外，其餘幾個決議案，尤其是《解決農民土地問題決議案》竟未被通過。這反映了武漢政府在農民問題上存在著嚴重的分歧和鬥爭。
四一二事件後，武漢政府處在反革命勢力的四麵包圍之中。東有蔣介石的南京政府控製著長江下遊地區，西有四川軍閥控製著長江上遊，北有奉係軍閥虎視眈眈，南有兩廣軍閥與蔣介石呼應，同時，帝國主義各國對武漢也采取抽逃現金、關廠怠工等手段，與武漢政府對抗。在此形勢下，武漢政府麵臨著重新選擇進軍方向以求發展的重大問題。
對此，當時有幾種不同的意見。第一種意見主張東征討蔣。其理由是：蔣介石叛變革命，已變成中外反動勢力的總代表，是中國革命的主要敵人。再則，蔣介石新叛，根基不穩，內部矛盾重重，能實際控製的軍隊也並不多。如果不及時東征，“則蔣之東南政權將益固，與帝國主義關係將益深”，“而蔣之政權益固，繼續而起者將大有人在”，“整個革命必根本失敗無疑”【《周恩來選集》上卷，人民出版社1980年，第6-7頁。】。第二種意見主張北伐討奉。其理由為：蔣介石新叛，由於種種條件限製，一時無力組織對武漢的全麵進攻，而北方奉係已進軍河南，組織對武漢的進攻，所以首先應該北伐討奉，與馮玉祥會師河南，再聯合閻錫山，驅逐奉軍出京、津地區，然後再解決東南問題。此外，還有主張南征回廣東和在兩湖地區開展土地革命的。4月18日，國共兩黨聯席會議經過討論，決定采納第二種意見，繼續北伐討奉。
4月19日，武漢國民黨中央和國民政府在武昌南湖舉行第二次北伐誓師典禮。唐生智任北伐軍總指揮，率第四、第十一、第三十五、第三十六各軍入豫進攻奉軍。武漢國民政府軍事委員會還任命馮玉祥為第二集團軍總司令、閻錫山為第三集團軍總司令。21日，北伐軍開始沿京漢線向河南進軍。5月1日，奉軍張學良率所部約10萬餘人，糾合吳佩孚殘部進窺武漢。北伐各軍聯合豫中各部由駐馬店分三路迎擊奉軍。同日，馮玉祥宣布就任國民革命第二集團軍總司令職，出兵潼關，由隴海線東進，直逼洛陽。中旬，北伐軍大破奉軍於汝南、上蔡一帶，並壓敵於郾城、許昌之間。26、28日，北伐軍又在漯河、臨穎擊潰奉軍主力，接著連克郾城、許昌、新鄭。這時，馮玉祥的第二集團軍也在洛陽擊敗劉鎮華的鎮嵩軍，沿隴海線繼續東進。閻錫山的第三集團軍則出娘子關，威脅著奉軍的後路。31日，奉軍被迫放棄鄭州、開封，退至河北。6月1日，武漢北伐軍與馮玉祥的第二集團軍會師鄭州，進占開封。
與此同時，南京方麵也於5月1日開始分三路北渡長江，攻打直魯聯軍和孫傳芳殘部，6月2日攻占隴海線與津浦線的交叉點徐州。
攻豫成功後，由於武漢政府內部危機嚴重，汪、馮鄭州會議轉向反共，北伐軍遂奉命將河南交馮玉祥整理，“班師回鄂，拱衛武漢”。
武漢政府沒有及時東征討蔣，致使蔣介石南京政府逐漸站穩了腳跟。之後，蔣政權不但斷絕長江下遊交通，增加武漢政府的經濟困難，而且北上進軍隴海線，穩定了長江、黃河之間一帶的局勢。而武漢政府第二次北伐成果盡為馮玉祥所得。南京政權的穩固，又便馮玉祥的態度日益右轉這就便局勢的危機更加嚴重。實踐證明，武漢政府不及時東征討蔣而進行第二次北伐的決策是錯誤的。
在中國革命成敗的緊急關頭，中國共產黨於1927年4月27日在武昌召開了第五次全國代表大會。
早在第五次代表大會召開以前，中國共產黨曾於1926年12月中旬在漢口召開中央特別會議。陳獨秀在會上作了政治報告，會議根據陳獨秀報告通過了《關於政治報告議決案》《關於國民黨左派問題議決案》等議決案。這次會議是陳獨秀右傾機會主義路線形成並開始在中共中央占統治地位的標誌。會議的主要錯誤在於：第一，在蔣介石日益反動、準備公開叛變革命的情況下，會議卻提出反對共產黨的“左稚病”的錯誤口號。會議認為：北伐軍打下南昌、九江之後，國共關係麵臨著破裂的危機。其主要原因是：“一方麵民眾運動勃起之日漸向左，一方麵軍事政權對於民眾運動之勃起而恐怖而日漸向右”【《中共中央文件選集》(2)，中共中央黨校出版社1983年版，第389頁。】，“這種左、右傾距離日遠，是破裂一般聯合戰線及國共關係之主要原因”【《中共中央文件選集》(2)，中共中央黨校出版社1983年版，第386、384頁。】。要“鞏固赤的聯合戰線”，就要“防止黨外的右傾，同時防止黨內的左傾”【《中共中央文件選集》(2)，中共中央黨校出版社1983年版，第386、384頁。】。這就否認了當時的主要危險是中共中央右傾的現實，使陳獨秀的右傾錯誤更加嚴重。第二，在統一戰線的問題上，會議不是主張發動群眾同以蔣介石為首的國民黨新右派的日益反動進行鬥爭，而是企圖維持國民黨軍事領袖之間實力的平衡使其互相牽製，並通過建立以汪精衛為領袖的文人政府以減少國民政府的軍事獨裁性質。其結果，不但未能抑製蔣介石的背叛活動，反而使假左派汪精衛乘機掌握了武漢政府的實權。第三，在工農運動方麵，會議認為工農運動的發展，使資產階級感到恐懼，主張製止工農運動的過火行為，以此求得和國民黨右派的妥協。總之，從三二事件起，中共就曾一度放棄軍權與黨權。在武漢政府時期，中共雖然參加了國民黨中央和國民政府，但並未掌握軍、政大權，隻是掌握對民眾運動的領導權。這次會議通過壓製工農運動的決議，標誌著陳獨秀右傾機會主義者全麵放棄了對革命的領導權。
十二月會議後，陳獨秀右傾機會主義產生了一係列惡果。中國共產黨第五次代表大會就是在這種情況下召開的。
出席中共五大的代表80人，代表黨員57900餘人。共產國際的代表羅易、維經斯基和蘇聯顧問鮑羅廷也參加了大會。
這次大會的宗旨是：總結過去的經驗教訓，確定中國共產黨在緊急時期的任務和政策，以便挽救革命。但是，陳獨秀在大會所作的政治報告中，對他的右傾投降主義不但沒有進行任何批判，反而加以發展。他仍然肯定中山艦事件的無原則讓步是正確的，仍然肯定無產階級隻能進行經濟鬥爭，而根本不應該搞政治鬥爭和武裝起義。他認為目前在張作霖與蔣介石未打倒之時，隻能擴大革命，即繼續進行北伐，至於加深革命，即發動農民開展土地革命，則是革命擴大以後的事。陳獨秀在報告中還提出逃避革命的“到西北去”的理論。
大會批評了陳獨秀忽視同資產階級爭奪領導權的錯誤，指出：“自五卅運動起，……我們的黨，隻注意於反帝國主義及反軍閥的鬥爭，而忽略了與資產階級爭取革命領導權的鬥爭。”大會還批評了陳獨秀的大革命論和到西北去的理論。但是，這次大會對陳獨秀右傾機會主義的實質及其危害缺乏深刻認識，對於如何爭取革命領導權的一係列問題，比如怎樣改造國民黨和國民政府、深入進行土地革命、建立和擴大武裝等問題，均未提出任何切實可行的辦法。
最後，大會繼續選舉陳獨秀為中共中央總書記。
中共五大既沒有從政治上徹底清算和糾正陳獨秀的右傾機會主義錯誤，在危機中為全黨指明出路，在組織上也沒有把陳獨秀從領導崗位上撤換下來，致使會後陳獨秀的錯誤繼續貽害革命。因此，這次大會沒有解決任何實際問題，沒有擔負起挽救革命的任務。
四、汪精衛集團的“分共”反共
在第二次北伐的同時，武漢政府內部的危機日益嚴重。
首先，武漢政府發生了嚴重的經濟危機。由於內外反動派對武漢進行軍事包圍和經濟封鎖，武漢南北的鐵路以及長江中下遊的航運，均被截斷。日、美、英等帝國主義國家關閉了在武漢的工廠、銀行、企業。與帝國主義有密切聯係的買辦資產階級也乘機抽逃資金，關廠罷業，對抗革命。由於反革命經濟封鎖帶來的嚴重困難和對不斷高漲工人運動的懼怕，武漢地區的民族資產階級也紛紛關廠歇業。工廠的關閉與縮小生產，又導致大批工人失業。僅武漢一處的失業者就達12萬之多。另外，由於許多資本家關廠怠工，抽逃資金，致使武漢銀根吃緊。為了製止現金出境，武漢政府曾於4月中旬組織經濟委員會，禁止現金出境並登記各銀行的現金，同時頒布現金集中條例。但所有的銀行家都反對，公開停止一切商業活動。武漢地區的100多家商店全部關閉。工商業危機影響到財政的收入，北伐戰爭的繼續又需要龐大的軍費，龐大的軍費開支又加深了財政危機。於是武漢政府不得不大量發行紙幣，以致引起通貨膨脹，物價上漲。由於商品缺乏、物價日益高漲，糧食及其他食品奇缺，工人大批失業，所以人民的生活日益困難。