公元980年，契丹軍大舉入侵雁門關，楊業領數千騎自西陘（雁門關峽穀西支）而出，由小路繞到雁門關峽穀北口，從敵軍背後猛攻，契丹軍大敗。楊業以功調升雲州觀察使，仍任鄭州、代州刺史。從此，契丹軍望見楊業軍的旌旗，不敢侵擾，自動避退。
公元986年，宋太宗兵分東、中、西三路大軍攻遼，開始進展順利，尤以由潘美和楊業率領的西路軍戰果最輝煌，後因東路的主力軍戰鬥被打敗，太宗慌忙令諸路班師。並令西路軍保護曾經奪回的雲、應、寰、朔四川的人民遷於內地。這時契丹大軍引大軍攻擊已回師代州的西路軍，而東、中路軍已撤回，在敵我力量懸殊的情況下，楊業提出“示形於東，而務於西”的策略，說：“我領兵出大石路，先派人密告雲、朔兩州守將，俟大軍離開代州時，使雲州之眾先出。我進軍應州，契丹軍必來拒，即令朔州人民出城，直入石碣穀。我預伏強弩手千人於穀口，派騎兵在中路支援，這樣三州的軍民就可以安全撤退了。”監軍王先反對說：“我們有數萬精兵，為何怯懦如此。應直趨雁門，迎擊敵軍。”另一監軍劉文裕讚成王先意見。楊業說，“不可，這樣必大敗。”王先嘲笑而威脅楊業說：“君素號‘無敵’，今見敵避而不戰，是否有異誌？”楊業說：“業非避死，是因戰機不利，徒使士卒被殺傷而不能立功。現在你們責我怕死，我可為你們打頭陣。”臨行前，楊業流淚對潘美說：“我原是太原降將，罪當死。上不殺，委為邊帥，授以兵權。我非縱敵不擊；是在伺機出戰，以立功報國。今大家責我避敵，我當戰死於敵前。”他指著陳家穀口（今朔縣西南陳家溝）說：“諸位於此兩側埋下步兵和強弩手，待我轉戰到這裏就夾擊敵軍相救，否則將全軍覆滅。”
潘美與王先領麾下兵列陣於穀口。他們等了一個上午，不見楊業回來，王先以為契丹軍敗走，欲爭其功，即領兵出穀口。潘美不能製止，便領軍沿著灰河西南行二十裏，聽說楊業兵敗，不敢救授，就慌忙帶軍逃走。楊業出兵與契丹軍戰鬥，全軍竭力死搏，因眾寡懸殊，楊業突圍到穀口時，不見守軍，拍胸大哭，率帳下士卒再戰，士卒殆盡，他身被數十創，還殺死敵兵數十人，馬也受重傷，為契丹軍所擒。敵帥勸降，楊業堅決拒絕。楊業悲憤地說：“上遇我厚，原想討賊捍邊以報，而反為奸臣所迫，致使王師敗績，我有何麵目再活下去！”不食，三日而死。
楊業孤軍出戰至死，都是因王先等所迫所誤，非其戰之罪。他與契丹軍死戰後，回到穀口時，麾下尚有百餘人，楊業對他們說：“你們各有父母妻子，現敗局已定，跟我一起死沒有益處，可回去報給皇帝。”將士聽了都為之感泣，沒有一個肯走。淄州刺吏王貴殺敵數十人，矢盡遂死。餘眾亦戰死，無一人生還。為何楊業能使將士與之共死？這是因楊業深得將士之心。楊業雖不知書，但為人忠烈武勇，有智謀。練習攻戰，能與士卒同甘苦，代北冬天嚴寒，人多穿皮衣，楊業卻隻穿棉衣。他為政簡易，禦下有恩，故士卒樂為用，為他效死，彼此之間有如父子兵。這就是楊業之所以與契丹戰多勝，被號為“無敵”的主要原因。
楊業一生北抗契丹以保護人民，又為保國而戰死，而其死又是由“奸臣所迫”，故其死時人們無不為他傷感而哭，其英烈事跡也為後為所稱頌。其子延昭及楊文廣都忠勇善戰，有功於國；妻折太君也善騎射，嚐助夫立功；他的侍女、仆從也武藝過人。折太君就是民間傳說的“楊門女將”的主帥佘太君。楊業父子戰死後，楊家將的故事就開始流傳開來，北宋已有關於楊家將的雜劇，說書人也講楊家將的故事，話本有《楊令公》、《五郎為僧》等。元時元曲有關其故事的更多，關漢卿著有《孟良盜骨》劇本。明代，有長篇小說《楊家府世代忠勇通俗演義》。這些戲曲、小說一直流傳到今天。
為將之人，如果明了水道解載舟覆舟的道理，能做到得人心，自然能對軍隊號令自如，部下人人樂於效命，何愁不能取勝呢！
載舟覆舟——嶽飛公心待士得將士效死