1934年4月，吳煥先和徐海東各帶一支部隊，在商城縣東南豹子岩會合。省委召開擴大會議，確定吳煥先改任政治委員，徐海東改任軍長。吳煥先和徐海東在會上提出，紅軍和遊擊隊行動要“靈活，慎重，不要機械”；作戰方針要從實際出發，“打不了不打，打不勝不打，要打就打殲滅戰”的正確意見。
蔣介石在對紅軍進行第五次“圍剿”時，把東北軍調到鄂豫皖地區。吳煥先找從敵占區來的商販談話，親自審訊俘虜，經過調查研究認為，東北軍裝備好，但他們不善於山地作戰；不少官兵思鄉懷土，不願打內戰；對蔣介石的“攘外必先安內”的反動政策十分不滿。吳煥先給幹部做了報告，要求除軍事上堅決打擊外，還要大力采取各種方式進行政治瓦解，並要求部隊一定要執行俘虜政策。7月1日，東北軍一一五師三個團在羅山縣長嶺崗向我進逼。我軍原準備轉移，但掩護部隊與東北軍一交火，東北軍就倉皇後退。於是，吳煥先馬上改變計劃，組織部隊追擊。紅軍邊衝鋒邊喊話：“中國人不打中國人！”“東北軍的弟兄不要上老蔣的當！”“槍口一致對外！”在軍事壓力與政治瓦解之下，東北軍紛紛繳械投降，我軍俘虜敵團長以下的近三千人。
1934年11月，紅二十五軍高舉中國工農紅軍北上抗日第二先遣隊的旗幟，開始長征。紅二十五軍北上到達河南省方城縣時，突然遭到敵人一個步兵師和一個騎兵師的追堵。敵人從兩翼包抄而來，形勢危急。有個貪生怕死的參謀主任，騎著一頭騾子，倉皇逃跑，導致一些部隊出現混亂。吳煥先立刻從警衛員身上抽出一把大刀，站在高處，大聲喊道：“站住，衝上去頂住敵群”。部隊展開白刃格鬥，終於打退了敵人。第二天，吳煥先集合部隊，表彰了作戰勇敢的人，嚴肅懲處了那個臨陣脫逃的參謀主任，全軍指戰員受到一次深刻的戰場紀律教育。
1935年春天，蔣介石拚湊了三十多個團的兵力，向鄂豫陝邊發起了大規模進攻，限令在5、6、7三個月，全殲紅二十五軍。恰在這時，鄂豫陝邊區省委書記徐寶珊因病去世，省委決定由吳煥先代理書記。他主持召開省委軍事會議，研究確定了反“圍剿”的作戰方針，組織部隊反擊，粉碎了強大敵人的圍攻。7月中旬，紅二十五軍乘勝打擊終南山，前鋒部隊直抵西安以南二十裏處，威逼敵軍老巢。蔣介石妄圖消滅紅二十五軍的計劃徹底破產。
這期間，吳煥先十分關心中央紅軍和二、四方麵軍的行蹤。當獲悉一、四方麵軍在川西會合，正在北上。吳煥先召開省委會議，分析了鬥爭形勢，決定帶領紅二十五軍急速向甘肅方向挺進，接應黨中央與主力紅軍。隨後，吳煥先等人率紅二十五軍轉向陝北，與陝北紅軍會師。並留下鄭位三、陳先瑞等人和一些部隊繼續堅持陝南地區的鬥爭，鞏固和發展陝南革命根據地。
8月初，紅軍進入甘肅境內，攻占兩當縣城，又渡過渭河，攻克秦安，出現在隴東高原。接著紅軍占領隆德縣城，翻越六盤山，繞過平涼，直抵涇河邊上的白水鎮。這時，敵三十五師騎兵團及二○八團數千人，突然從西峰鎮方向猛撲過來，企圖在涇河北岸堵擊我軍。紅二十五軍則南渡涇河，佯作奪路入陝之狀，調動敵人於涇河沿岸，然後再乘機渡過涇河，揮師北上。8月21日，我軍冒雨南渡，部隊剛過一半，山洪暴發，河水猛漲，有的同誌被急流卷走。吳煥先和軍部直屬部隊、擔任後衛任務的二二三團大部，被阻在涇河北岸。這時敵騎一千餘人，由涇川方向奔襲過來，我後衛部隊被迫在河邊背水作戰，形勢險惡。吳煥先立刻帶領軍部交通隊一百五十多人，直插敵人腰部。他高聲呼喊：“同誌們，決不能讓敵人逼近河邊！壓住敵人就是勝利！”部隊一鼓作氣衝上前去，搶占製高點，把敵側後截成兩段。在激戰中，吳煥先身負重傷。同誌們聞知這不幸消息，一個個怒火萬丈，與敵人拚死搏鬥，把敵人從土塬上壓到溝裏，全殲敵人，敵團長也被擊斃。可是，就在戰鬥的勝利時刻，吳煥先已經英勇地獻出了寶貴的生命。