等到宋軍趕到太原城，兩軍二話沒說，又是開打。
從數量上來說，宋軍是北漢的數倍，從質量上來說，宋軍已經擁有了訓練有素的騎兵和火槍。雖然當時的火槍不能造成太大的殺傷力，但足以給北漢形成相當大的心理陰影。
無奈，在劉繼業的英明指導下，宋軍硬是拿這塊硬骨頭沒轍。
怎麼辦？撤回去？那多沒麵子。就這樣死撐？一來幾十萬軍隊吃飯不好解決，二來士兵離家太久，難免想老婆，嚴重影響戰鬥力。就在這個進退維艱的時刻，一個叫陳承昭的下級官吏想了一個辦法——從軍事角度上來看，這是一個絕對理論上的絕殺（來自黃健翔語錄，謝謝）！
太原是一個好地方，依山伴水。水就是汾河。從位置上看，太原要低於汾河的高度——讀到這裏聰明的讀者想必已經恍然大悟了。沒錯，水攻。
接下來，宋軍幹的事情就是一樣，挖溝。具體做法就是從汾河開挖，目的地是太原城。這事兒關羽當年幹過，有師父帶頭，趙匡胤幹起來也是輕車熟路。
很快，汾河之水就引到了太原城下。說時遲那時快，汾河如萬馬奔騰般湧向城牆，越漲越高，太原變成一座孤島，危在旦夕。這下麻煩了，看著城外不斷高漲的水位，以及牆根處不斷的裂縫管湧，城內一片大亂。
劉繼業也無計可施。就在他們開始商量投降的時候，事情又發生了轉折——契丹派來的援兵到了。對於宋軍這麵來說，這可不是好消息。最終可以用四個字來描述：功虧一簣。
權衡再三，趙匡胤終於撤軍了。
真正的壞消息是趙匡胤回到京城後等來的。
原來，宋軍撤走以後，北漢把太原城內外的積水排出，這時奇怪的事情發生了，大段大段的城牆在逐漸幹燥後轟然倒塌。見此情景，不僅北漢君臣倒吸一口涼氣，就連遼國使者也感慨：“要是宋軍先淹城，緊接著排水，太原城早就完了。”
聽到這個消息後，據說趙匡胤氣得三天沒吃飯。
趙匡胤終其一生都沒啃下北漢。這個任務隻能交給趙光義了。
公元979年，宋太宗趙光義經過充分準備，再次北伐。
這次趙光義是下了血本，砸鍋賣鐵，親自率領舉國之精銳，進攻太原，目的隻有一個：徹底把北漢從地圖上抹去。
宋軍到達太原，跟北漢玩持久戰，日日攻打，時時不息，同時派兵奪取唐明鎮，盤踞在石嶺關，先是打敗契丹援軍，再逼降北漢主要軍事統帥範超、郭萬超等。北漢皇帝劉繼元在外無援兵、內無糧草的窘況下，隻好舉起了白旗。
此時，劉繼業還在率軍苦戰不已。宋太宗也很佩服這個牛人，讓劉繼元派親信前往勸降，現身說法。楊業聽說連老大都投降了，才“北麵再拜，大慟，釋甲來見”。
這樣，劉繼業（楊業）從此就是大宋的人了。