突破敵人的第四道封鎖線，是長征以來最緊張最激烈的一次戰鬥，使紅軍付出了極其慘重的代價。由於湘、桂軍閥間的矛盾，敵方防線曾出現一個缺口。1934年11月27日，紅軍先鋒部隊占領湘江重要渡口界首，如果整個部隊輕裝前進，是有可能迅速搶渡湘江的，但由於重負行軍，速度太慢，中央機關兩天後才趕到渡口，這時湘、桂兩軍已在飛機支援下向渡口猛烈夾擊……戰役後，紅軍由出發時的8﹒6萬餘人，減少到3萬餘人。
湘江戰役後，紅軍廣大指揮員對“左”傾機會主義領導的錯誤指揮的懷疑和不滿情緒“達到頂點”，部隊中出現了積極要求改換領導人的呼聲。一些支持過“左”傾錯誤的領導人，也在血的事實的教育下，逐步轉變了態度。重挫麵前，博古那往日總是熠熠生輝的眼睛變得灰暗沮喪，一籌莫展；李德也不再像往常那樣趾高氣揚，而顯得有些垂頭喪氣。
1934年12月上旬，紅軍占領湖南西南邊境的通道之後，在這裏召開了中央軍委會議，研究紅軍的行動方向問題。在這個緊要關頭，毛澤東提出，應放棄與紅二、紅六軍團會合的計劃，避實就虛，尋求機動，改向敵軍力量薄弱的貴州挺進。他的主張得到了許多人的讚成，於是部隊立即向貴州進發，於12月18日一舉攻克了黎平。隨即在黎平召開政治局擴大會議，正式通過決議，否定了博古、李德的錯誤戰略方針，采納了毛澤東靈活機動的戰略戰術思想，為遵義會議徹底糾正“左”傾錯誤軍事路線打下了基礎。
1935年1月7日，紅軍攻克黔北重鎮遵義。由於紅軍從通道會議後突然改變行軍方向，甩開了尾追和堵截之敵，因而在遵義得到了十多天的休整。15日至17日，中共中央召開政治局擴大會議，其中心議題一是“決定和審查黎平會議所決定的暫時以黔北為中心，建立蘇區根據地的問題”，二是“檢閱在反對五次‘圍剿’中與西征中軍事指揮上的經驗和教訓”。其實，遵義會議的召開並非偶然，經曆了一個長期而緊張的醞釀過程。在這個過程中，毛澤東始終起著主導和決定作用。早在第五次反“圍剿”中，毛澤東就曾多次提出戰略性建議，均被博古、李德等“左”傾領導人所拒絕。長征開始後，毛澤東對時任中革軍委副主席、紅軍總政治部主任的王稼祥和時任中共中央政治局委員、書記處書記的張聞天做了大量細致的思想工作，爭取到他們的支持。出席遵義會議的有中央政治局委員毛澤東、朱德、陳雲、周恩來、張聞天、博古，候補委員王稼祥、鄧發、劉少奇、凱豐，中央秘書長鄧小平，紅軍總部和各軍團負責人劉伯承、李富春、林彪、聶榮臻、彭德懷、楊尚昆、李卓然，李德和翻譯伍修權也列席了會議。博古作了關於第五次反“圍剿”的報告，毛澤東、張聞天、王稼祥作了重要發言，尖銳地批評第五次反“圍剿”中實行單純防禦、在長征中實行退卻逃跑的錯誤。經過激烈爭論，多數與會者形成共識，認為第五次反“圍剿”失敗的主要原因不是如博古所講，歸結於敵人力量的過於強大，而是戰略方針的錯誤所致。王稼祥提議，撤銷李德在軍事上的指揮權，毛澤東應當參與軍事指揮。朱德、周恩來、劉伯承等都相繼發言，支持毛澤東。林彪沒有多講話。擔任少共中央書記的凱豐則公開反對毛澤東的意見，甚至對毛澤東說：“你懂什麼馬列主義？你頂多是讀了些《孫子兵法》！”李德也曾發言，拒絕大家對他的批評，把責任推到客觀原因和臨時中央身上。
會議一共開了三天，氣氛緊張激烈。最後作出四條重要決定：選舉毛澤東為中央政治局常委，取消博古和李德的最高軍事指揮權；指定洛甫（張聞天）起草會議決議（後來形成了《中央關於反對敵人五次“圍剿”的總結決議》）；政治局常委再進行適當分工；取消“三人團”，仍由朱德、周恩來為軍事指揮。會後，在紅軍長征途中，中央政治局常委進行分工，由張聞天代替博古在黨內“負總的責任”，並成立由毛澤東、周恩來、王稼祥組成的“三人小組”，負責全軍的軍事行動。
遵義會議是中國共產黨曆史上開始獨立自主地解決中國革命重大問題的會議，會議全力糾正了“左”傾錯誤軍事路線，實際上確立了以毛澤東為核心的正確領導，在革命的危急關頭挽救了中國共產黨，挽救了紅軍，挽救了中國革命，為取得紅軍長征的最後勝利和打開中國革命新局麵奠定了重要的基礎。