中央紅軍剛剛踏上征程，就處於敵人的圍追堵截之中。楊得誌領導的紅1團在長征途中一直擔當著開路先鋒或掩護後衛的重任。蔣介石部署在第一道封鎖線的國民黨軍隊是在安遠、信豐一線的中央軍餘漢謀的部隊，共三個團。敵人不僅武器精良，而且還沿公路兩旁構築了許多碉堡和工事，神氣、狂妄得很。戰鬥打響後，紅1團的戰士們以餓虎撲食之勢衝向敵人，鬥誌之勇猛，動作之迅速，令這些有備之敵都無法招架，結果隻用了三個小時就結束了戰鬥。突破了敵人的第一道封鎖線後，紅軍並沒有擺脫困境，部隊幾乎一直處於晝夜不停的強行軍中。紅1團由於擔負著開辟道路的重任，因此更加緊張、更加疲勞。進入湘、粵交界處的九峰山，楊得誌率領著戰士們一步一個血印地從敵人的手中奪取一個個山頭。翻過九峰山後，紅1團由前鋒改為後衛，在左翼掩護中央縱隊。1935年1月，紅1團再次作為先遣團奉命突破烏江。當時，中央紅軍的所有機關和部隊都集結在烏江西岸，數十萬敵軍尾追在後，而附近的村莊別說沒有船，就連一塊像樣的木板都找不到。烏江水深流急，徒涉是不可能的。焦急萬分的楊得誌正拿著望遠鏡觀察對岸敵人的動靜，忽然發現水中隨波漂流的一節竹竿，他靈機一動，立即命令部隊砍山竹，紮竹筏強渡，從而一舉突破了烏江天險。
強渡大渡河，是長征途中楊得誌指揮的最為著名也最為驚心動魄的一次戰鬥。作為全軍的先遣隊，紅1團在渡過金沙江、穿過彝族區後，冒雨急行軍了一天一夜，到達了大渡河畔一個離安順場隻有15華裏的小村。比起以往，紅軍此時的處境更為險惡：後有薛嶽、周渾元、吳奇偉的數十萬大軍在緊緊追趕，前有四川軍閥劉湘、劉文輝的部隊扼守於大渡河所有的渡口。蔣介石吹牛說，前有大渡河，後有金沙江，幾十萬大軍左右夾擊，共軍插翅難飛。他發誓要讓紅軍全軍覆沒，做“石達開第二”。能否迅速渡過大渡河關係數萬紅軍的生命。楊得誌指揮紅1團首先消滅了安順場的守敵，奪取了惟一的一條船。接著又挑選了17名勇士，組成渡河敢死隊。在我方炮火的有力支援下，在敵人的瘋狂掃射下，在驚濤駭浪中，17名勇士分成兩批進行強渡，很快攻占了敵人的灘頭陣地，打退了敵人一次又一次的反撲，為全軍渡河奠定了立足點。楊得誌是繼17勇士之後乘第三船過河的，望著滔滔的江水，他露出了勝利的微笑。強渡大渡河在我軍戰史上留下了極其光輝的一頁。
長征到達陝北後，楊得誌率紅1團參加了直羅鎮戰鬥，打了一場漂亮的殲滅戰，給黨中央把全國革命大本營放在西北舉行了一個奠基禮。
1936年2月，瓦窯堡會議以後，中央決定進行東征。所謂東征，就是紅軍由陝北東渡黃河，通過山西，開赴冀、察前線，直接對敵作戰。
東征前，由紅一方麵軍主力組成抗日先鋒軍，楊得誌擔任紅1師副師長。部隊東渡黃河前，楊得誌以他一貫的作風，親自帶幾個偵察兵前往預定的渡口實地勘察地形，了解敵情。紅軍東征勝利回師以後，6月又西征甘肅、寧夏。此時楊得誌調任紅2師師長。紅2師是軍團的前衛，進入隴東的第一仗是攻打通往寧夏要衝的國民黨環縣縣政府所在地曲子鎮。曲子鎮有10米高的城牆，城牆外還有很深的塹壕。把守曲子鎮的是外號叫“野騾子”的冶成章，他是西北“四馬”之一馬鴻賓的手下幹將。“野騾子”確實野得很，他的部下有不少亡命之徒，他們光著膀子，舉著大刀，歇斯底裏地狂喊亂叫。那時我方沒有炮，機槍也很少，楊得誌把指揮所設在最前沿，指揮部隊憑著步槍、手榴彈發動攻擊，戰鬥從下午兩、三點鍾一直打到深夜，敵人的三四百人大部被殲，“野騾子”也受傷被俘。10月初，西征軍在甘肅會寧與紅二、紅四方麵軍勝利會師。
三大主力紅軍的勝利會師，震動了蔣介石，他調集大批人馬，企圖趁我立足未穩圍殲我軍。為粉碎蔣介石的這一陰謀，中央製定了山城堡戰鬥計劃，由彭德懷、劉伯承直接指揮。
紅2師的任務是協同紅15軍團向山城堡西北方向進攻，截斷敵人的退路。11月21日，部隊發起總攻。戰鬥中紅2師第5團進攻被阻，部隊傷亡很大。楊得誌急忙趕往第5團，他仔細地觀察了一下地形和敵人的火力網，發現敵人主要是利用山上的幾座炮樓控製著製高點，用輕、重機槍嚴密地封鎖著紅5團進攻的道路。於是，他命令把大部隊收回來，派小分隊迂回進攻，先敲掉敵人的炮樓。這一招果然有效。這裏的山頭很快被我拿下。在這場戰鬥中，紅2師的第4團與敵展開了麵對麵的肉搏，在付出了巨大的犧牲後也取得了勝利。山城堡戰鬥是第二次國內革命戰爭的最後一仗，是我軍在曆史轉折中進行的一次重要戰鬥，從此，中國共產黨領導的工農紅軍在西北站穩了腳跟。
1937年，“七七事變”發生時，楊得誌正在“抗大”學習。為了抗日救國，挽救民族危機，這一期學員提前結業，楊得誌回到了老部隊。8月，根據國共兩黨談判的協議，中國工農紅軍改編為國民革命軍第八路軍（後稱第18集團軍），下轄三個師，楊得誌任115師第343旅第685團團長，不久，他率所部三個營參加了著名的平型關戰鬥，此役打出了我軍的威風，打擊了日軍的囂張氣焰，極大地鼓舞了中國人民的士氣。不久，因第344旅旅長徐海東有病，朱德命楊得誌為第344旅副旅長，代理旅長。