1936年2月17日，中華蘇維埃人民共和國中央人民政府、中國工農紅軍軍事委員會發布《東征宣言》，並隨即派主力紅一軍團和紅十五軍團東渡黃河進入山西，紅軍在汾河河穀擊敗閻錫山的堵截，逼近同蒲鐵路，積極準備東出河北、察哈爾與日本帝國主義作戰。蔣介石對毛澤東親自率紅軍渡河東征甚為懼怕，慌忙下令從洛陽、徐州等地，調遣10個師的兵力配合晉綏軍攔截紅軍去路；同時，又令東北軍和十七路軍進攻西北紅軍後方。為了粉碎蔣介石的陰謀，黨中央命令劉誌丹和宋任窮率領紅28軍擔任側翼，其任務是從佳縣以北渡黃河，插入晉西北地區，配合中國人民紅軍抗日先鋒隊迅速打通通往抗日前線的道路。
劉誌丹和宋任窮率領紅28軍揮戈東征，抵禦日寇的侵略，一路向黃河岸邊挺進，在行軍途中，受到了西北根據地群眾的熱烈歡迎。當地的老百姓聽說劉誌丹帶著紅軍回來了，都是夾道歡迎，有的人甚至專程從幾十裏外跑來看望，部隊的宿營地經常擠滿了親切慰問的群眾。一次在神木縣境，一位70多歲雙目失明的老大娘也拄著拐棍，顫巍巍地趕來探望，眾人笑著說：“大娘，你怎能看見老劉啊！”
她說：“看不見，我還摸不著嗎？”
劉誌丹立即站到老人家麵前，拉著她的手，親切地說：“大娘，我就是劉誌丹。”
老人家把劉誌丹從頭摸到腳，又從腳摸到頭，激動地流著熱淚說：“好哇！……好哇，你真是咱們老百姓的好人啊！”在場的群眾大多感動得流下了熱淚，這充分反映了劉誌丹和廣大勞苦群眾的血肉聯係。
3月，紅28軍打下神木沙峁鎮後，在賀家川一帶進行緊張的渡河準備。劉誌丹在廣大群眾的幫助下，經過晝夜不停地詳細調查研究，最後選定在通往山西興縣的神木縣賀家川山坡渡口灣渡河。黃河岸邊三月底的夜晚，浪高風黑，怒吼的濤聲裏不時傳來沙岸崩塌的沉悶聲響。臨出發前，劉誌丹平端一隻粗瓷海碗，滿斟烈酒，敬給那些船工們，鼓勵他們不畏艱險，幫助紅軍快速衝過河去。
3月31日，在一片風聲、浪聲、槍炮聲中，紅28軍在劉誌丹的指揮下，勝利渡過了黃河。渡河後紅軍立即投入戰鬥，一舉突破閻錫山的河東防線，殲敵兩個營，占領羅峪口，摧毀了羅峪口敵軍指揮部，隨即向興縣黑峪口、康寧鎮一路橫掃過去，自北向南，接連打敗了6股來犯之敵，所向披靡，勝利進入山西興縣白文鎮。
1936年4月10日，中共中央決定，任命劉誌丹為中國工農紅軍西北革命軍事委員會委員。
就在這時，部隊接到中央軍委急電：“為了配合紅軍進逼汾陽，威脅太原，並打通前方與陝北之聯係，保證紅軍背靠老蘇區，著令28軍即刻向離石以南黃河沿岸地區進擊，並可相機攻占中陽三交鎮，牽製和調動敵人。”劉誌丹接到命令後，率領部隊立即向西南進軍，經過激烈戰鬥，按時於1936年4月13日到達山西中陽縣西部渡口三交鎮。
1936年4月13日，毛澤東同彭德懷聯名致電劉誌丹、宋任窮：“28軍有相機消滅三交鎮、轉角、辛關、義牒一帶之敵，恢複黃河交通之任務。”接到中央命令攻打三交鎮電報的當天，劉誌丹把團以上幹部召集到一起向大家傳達，說：“越向南走，離中央總部越近，所以一定要打好三交鎮這一仗，打通山西前線和陝甘蘇區的聯係。”
三交鎮是山西省中陽縣（今柳林縣）通往陝北綏德根據地的一個重要渡口。敵人在三交鎮周圍設有堅固工事，並有一個團的敵人防守。劉誌丹非常明白打下三交鎮的分量，深感自己責任重大。該鎮南北環山，西麵臨水，地勢險要，易守難攻。為打好這一仗，劉誌丹親自勘察地形，仔細分析敵情，研究作戰方案，嚴密部署戰鬥。到了山上，劉誌丹拿著望遠鏡，對三交鎮周圍的每一座山、每一條河、每一條道路、每一個村莊，都詳細地觀察，並且一一作了記錄，而且對每一點情況，他都要進行反複地觀察。觀察後，他又找來當地群眾，進行詳細地調查了解。為了打好這一仗、他連著幾天幾夜都沒有合眼，雙眼充滿了血絲。警衛員幾次給他送來飯，他都忘記了吃。經過幾天緊張的工作，他才把攻占三交鎮的戰鬥方案部署好。對著沉沉夜空，他長長地舒了一口氣，說：“我們快要見到毛主席了！”