1926年3月18日上午9點，各團體、學校群眾約：三千多人到天安門集合，召開了大會，會後兩千多人隨即出發遊行，來到了鐵獅子胡同東口，在段祺瑞的執政府門前廣場列隊請願。這次遊行是由中國共產黨領導和指揮的，遊行隊伍由共產黨員王一飛率領，李大釗、陳毅、趙世炎、王荷波、陳喬年等中共北京區委領導人都參加了示威遊行。
遊行隊伍在行進中，一路上馬路兩旁人山人海，紛紛脫帽鼓掌表示支持。看來老百姓是心意相通的，遊行隊伍表達的訴求正是他們埋藏在心底的願望，現在終於有人出來為百姓說話了，他們豈能不表示敬意。
提前得到消息的執政府如臨大敵，在遊行隊伍到達之前，北新橋以南，交道口以東，鐵獅子胡同東西兩口，執政府東西轅門及大門口，已經集結了大量的軍警待命。
遊行隊伍在執政府門前站定之後，派代表向守門的軍官說明要求會見段祺瑞。要求送進去了，足足等了半小時，才有一個軍官模樣的人出來凶狠狠地說：“執政有病休息，不在這裏。”接著又用威脅的口吻說：“你們趕快走開Ⅱ巴。”
代表們仍然心平氣和，一再說明請願隻是反對帝國主義幹涉內政。這個軍官隻是說自己沒有權利答複他們的任何要求。代表們轉而要求麵見賈德耀，與他談判，但得到的答複仍是“他不在”，就沒別的話了。
得不到任何回音的遊行群眾開始高呼口號，高唱《國際歌》和《打倒列強》，就在這時，沒有任何征兆，也沒有鳴槍示警等措施，執政府門前不到兩百平方米的空場，刹那間變成了屍山血海。臨時執政府衛隊對手無寸鐵的學生進行了長達十多分鍾的射擊。這次大屠殺造成47人死亡、132人受傷、40人失蹤，這就是震驚中外的“三·一八”慘案。魯迅先生稱1926年3月18日為“民國以來最黑暗的一天”。
慘劇發生後，當時代理北京警衛司令的國民軍將領李鳴鍾迅速趕到現場，看到地上橫七豎八地躺著學生的屍體，他感到了問題的嚴重性。因為在此之前，北京經常發生學生遊行，但馮玉祥的國民軍一直比較同情革命，對學生遊行往往持保護立場。慘案發生前半個月，數次的學生愛國遊行示威都沒有發生流血事件，因為有京畿警衛總司令鹿鍾麟的大刀隊在兩旁隨行保護。而“三·一八”這一天，因為鹿鍾麟帶隊赴天津與奉軍作戰，而李鳴鍾作為臨時代理，卻沒派大刀隊保護遊行隊伍，他也實在是難辭其咎！
那麼當時的段祺瑞究竟在哪裏？其實根據曆史資料顯示，段祺瑞在慘案發生當天的確不在執政府內，而是在家裏休息，並和年輕棋手吳清源在下圍棋。至於段祺瑞對這場悲劇究竟應不應該負責，曆史上也有不同的說法。有的說這雖然不是段祺瑞直接下的命令，但他對衛隊開槍事件是持支持立場的，並且對學生動輒遊行示威深感厭惡，事前種種跡象也顯示他要武力對付學生運動。事後，段祺瑞的態度也有推脫責任的嫌疑，因為他以國務院的名義發出通電說： “李大釗等率領暴徒數百人，手持槍棍，闖襲國務院，潑火油，拋炸彈，手槍木棍衝擊軍警，各軍警因正當防禦，致互有死傷。”
不過還有另一種截然不同的說法，說是段祺瑞本意並非是要殺害學生，而且在事件發生前完全不知道衛隊居然開槍，在得知事件發生後第一時間趕到現場，麵對死難者長跪不起以謝罪。自此以後終生吃素，即使病入膏肓時也沒有改變。
慘案激起了全國人民的憤怒，北京各校學生聯名向京師地方檢察廳控告段祺瑞、賈德耀、章士釗，要求依法拘捕審判。京師地方檢察廳在調查後也不得不承認“群眾並無犯罪行為，且未達到不正當侵害之程度，府院衛隊實無開槍之必要，不能認為正當防衛”。中國共產黨、國民黨、全國學界、廣州國民政府和工商界、教育界、婦女界乃至海外華僑、外國團體都紛紛通電支持北京學生，並以各種形式的活動追奠死難者，譴責段祺瑞執政府當局。
不管真相如何， “三·一八”慘案後，段祺瑞的執政府徹底失去了民意基礎，到處是“討段”、“誅段”之聲。不僅人民聲討，連各路軍閥也對段祺瑞的執政府避而遠之，政府的威信蕩然無存，垮台隻是時間問題了。