自安史之亂後，中原內亂，四分五裂，北方遼國趁機占領幽雲十六州，中原自此失去曆代王朝用以抵禦北方敵人的屏障，遼軍卻隨時可以飲馬黃河，縱橫中原。在宋太祖統一中原後，直到宋太宗、宋真宗都多次與遼國交戰，雙方各有勝負，但始終未能收複幽雲十六州。為抵禦遼國騎兵，自宋太祖起，即要求沿邊境各村寨，廣種柳樹、多挖溝渠、開墾水田，但收效甚微，遼國仍然多次南下掠奪。
宋真宗鹹平二年（公元999年）嚴冬時節，遼軍兵分兩路再次入侵中原，東路由北院大王耶律休哥擔任元帥，帶領十萬大軍南侵，卻遭遇到大宋名將李繼隆將軍率領的宋軍主力阻擊，雙方一時僵持不下。
西路元帥為南院大王蕭達凜，也率軍十萬南下掠奪，這蕭達凜是遼國駙馬，天生神力，極其彪悍，有萬夫不當之勇。使一柄重達百斤的開山斧，多次率軍入侵中原，無數宋朝將領被其斬於斧下。更可怕的是，蕭達凜有勇有謀，曾設計生擒宋朝無敵將軍楊業，使其絕食三天而亡。因此被契丹人譽為戰神，而宋朝軍民聞之色變，稱其為“萬人屠”。
與東路遼軍受阻相反，西路遼軍一路上勢如破竹，但在遂城（今河北省徐水縣境內）被宋朝大將楊延昭率部約一萬人擋住。這楊延昭正是楊業將軍的大兒子，曾多次擊敗遼軍，戰功赫赫，由於居功自傲，得罪了朝廷要員，被貶駐守在遂城。
遂城隻是一座小城，人口少，城牆低矮破舊，但其卻是遼軍南下入侵京城汴梁（現開封市）的必經之地，若能守住遂城，則遼軍不敢前行，否則遂城就像一顆釘子釘在遼軍的後腹，不僅阻礙了其糧草、軍需供應，還使其退路被切斷。但楊延昭手下的年輕精壯士兵都被調走，隻剩下約一萬老弱病殘，楊延昭知道僅靠這一萬士兵根本無法抵擋遼軍入侵。
楊延昭和遼軍交戰多年，深知遼軍騎兵擅長衝鋒陷陣，卻不擅長攻城略地，要是把遂城城牆修得足夠高大、結實，也能抵禦遼軍入侵。因此一來到遂城，楊延昭就著手修建城牆工作，不僅手下的士兵全體出動，還動員了城裏的居民和城外村民以及逃難的百姓，一起加入到修建城牆的工作中，由於修建城牆的石頭需要到城外較遠的地方開采後運回城中，並由石匠將其鑿成一塊塊規則的長方形石條，一層一層往上砌，很是費時費力，因此工程浩大，城牆的修建工作進展極為緩慢，眼見遼軍隨時可能到來，楊延昭好不著急。
這時一個石匠找到楊延昭，自稱是“賽魯班”長孫一秋的徒弟，這長孫一秋可是當今名聞天下的能工巧匠，此人說自己曾跟隨師父為王公貴族修建陵墓時，見師父使用了一種三合土替代大量石材，結果陵墓修得又快又結實，不知道這種辦法能不能用於修建城牆。
楊延昭一聽說此人是長孫一秋的徒弟，就好像抓到了一根救命稻草，馬上吩咐手下人聽其安排，按其所說方法去做。這名石匠叫人將煮得很稠的糯米漿把三份石灰、七份粘土混合成黏黏的“三合土”，再將其當做粘合劑，把大大小小、形態不規則的石塊都砌在一起，夯結實後一層一層往上砌，結果城牆修建速度比之前快了好幾倍，尤其在三合土幹燥後，這段由三合土粘合在一起的城牆猶如一塊巨大的磐石一般堅固，並且每塊石頭間都填滿了三合土，沒有一點縫隙，使人難以攀爬。
楊延昭見狀大喜，下令全部按此方法修建城牆，結果全部城牆提前幾個月修建完工。楊延昭站在剛修好的城樓上，看著堅固的城牆，心中終於有了底氣，自己手下這些跟隨自己多年的老兵，雖然體力不如年輕人，但作戰經驗豐富，而且對自己忠心耿耿，沒有一個人會當逃兵，有了這堅固的城牆，就能夠揚長避短，最大限度發揮出這些老兵的潛能。楊延昭還將逃難的百姓和城外的村民全部都召入城中，與城中軍民共同抵禦強敵，一切準備就緒，遼軍便已到來。
遼軍剛一到達，就將遂城團團包圍，蕭達凜本以為拿下這座缺兵少將的小城易如反掌，不待大軍休息就馬上指揮遼軍發起一次又一次的衝鋒。麵對十倍於自己的遼國大軍，楊延昭召集城中所有壯丁，與自己部下士兵一起上城牆堅守不出。遼軍騎兵擅長平原作戰，卻不善於攻城，宋軍雖然人少也不如遼軍彪悍，但老兵經驗豐富，占據城牆居高臨下，利用長矛、弓箭和石塊，一次次將遼軍擊退。
在多次損兵折將後，蕭達凜隻得暫停進攻，在城外紮營，將遂城團團圍住，並調來攻城利器石砲。這石砲也叫投石機，以前宋遼雙方交戰時也經常使用，隻是這次遼軍帶來的十幾架石砲，是由一個西域人為遼軍所造，比以前宋遼雙方交戰時使用的石砲高大了許多，威力更是驚人，遼軍此次一路上順利攻克大大小小多座城池，全靠這十幾架石砲的功勞。