1月12日，馬元海以一部兵力鉗製位於臨澤地區的紅9、30軍，集中了4個旅另3個團和民團一部，以10倍於紅軍的兵力並配以飛機大炮猛攻駐守高台縣城的紅5軍陣地，企圖將紅軍各個擊破。火炮猛烈轟擊後，騎兵揮舞著馬刀，步兵抬著雲梯向城牆湧來。紅軍堅守城牆，數次擊退敵人。馬元海見難以從正麵攻克，便集中兵力攻打高台縣城東、西城牆外的兩個碉堡。這兩個碉堡是全城的製高點，紅軍依托碉堡有力支援了守城作戰。在敵人炮擊、火燒、連續進攻的情況下，紅軍終因寡不敵眾，碉堡失守，被迫退入城內堅守。為避免全軍覆沒，董振堂命令在北城牆挖了一個寬3米、高2米的大洞，隻在城牆外側留下了薄薄的一層土，以備突圍。紅軍苦守數日，頑強擊退了馬家軍的多次進攻。董振堂一麵指揮部隊戰鬥，一麵準備突圍。此時政委黃超派人送信，西路軍總部命令5軍死守高台。董振堂堅定地命令部隊“堅決守住高台！我們人在高台在，誓與高台共存亡！” 1月20日，馬元海傾全力攻城。此時，西路軍總指揮部電台偵聽到馬元海全力攻擊高台的電令，立即報告陳昌浩。總指揮部立即派騎兵師去策應紅5軍。紅軍的馬不是戰馬，子彈又少，騎兵又未經訓練，一出動便在沙河鎮一帶被馬家軍騎兵截擊，在激戰中，紅軍騎兵師長董彥俊、政委秦道均等大部犧牲。接著，西路軍總指揮部又幾次派兵增援高台，卻因強敵阻擊，無法解高台之圍。
麵對強敵的圍困猛攻，董振堂鎮定自若，指揮孤軍奮戰。他帶領幹部檢查每個防禦工事、每個射孔，組織部隊集中城內的磚塊、石頭、木棒，搬上城牆，並鼓舞指戰員們堅定信心，克服困難，誓與敵人血戰到底。在援兵無望，強敵當前，突圍不行的情況下，董振堂隻有率部死守高台。城牆被敵人炮火和飛機轟炸得殘破不堪，城內房屋幾被毀盡。紅軍傷亡嚴重，但仍與強敵浴血苦戰，一次又一次將馬家軍從城牆上打下去。不少紅軍傷員扭住敵人跳下城牆同歸於盡。正當戰鬥激烈之時，紅5軍收編的原高台民團又叛變了。叛軍打開城門，馬家軍乘勢蜂擁突入城內。董振堂立即組織部隊與敵人進行巷戰，逐屋逐街爭奪。子彈和手榴彈打光了，紅軍就用刺刀、大刀、石塊、磚頭與敵人拚殺。肉搏十餘小時後，高台城陷落。董振堂帶著兩個警衛員和一個司號長，從東門以北的城牆上跳了下去，被敵人包圍。他左腿負傷後，半跪在地上，雙手握槍向敵人射擊。1月21日，高台城內槍聲稀落。馬家軍圍住董振堂要活捉他。這位寧都暴動的領導人，紅軍卓越的高級指揮員背靠城牆，高呼“共產黨萬歲！”向自己的腦袋扣響了最後一顆子彈。在戰鬥中犧牲的還有紅5軍政治部主任楊克明、第13師師長葉崇本、參謀長劉培基以下3000餘人。突出重圍進入南山的少數紅軍亦被民團俘虜殺害。馬家軍不但屠殺了全部俘虜，還殘忍地將董振堂和楊克明的頭顱割下，送到西寧去向馬步芳請功。
高台失守，紅5軍3000多名將士戰死的消息，震動了紅西路軍全體指戰員，全軍上下無不悲痛。這天下午，從高台突圍出來的紅軍傷員，向紅30軍軍長程世才哭訴了高台血戰的經過，最後，他們用拳頭抹掉眼淚，悲憤地說：“紅5軍從江西出發，經過25000裏長征，打了許多勝仗，想不到亡在馬步芳手裏。我們要求馬上補充到連隊去繼續戰鬥，一定要為5軍報仇，為董軍長報仇！”