建隆三年(公元962年)九月，割據湖南的武平節度使周行逢病死，11歲的幼子周保權繼位。盤踞衡州(今湖南衡陽市)刺史張文表乘機發動兵變，攻占潭州(今湖南長沙)，企圖取而代之。武平統治者一麵派軍抵擋，一麵派人向宋求援。十一月，南平統治者高保勖也病死，侄高繼衝即位。久已圖謀南下的趙匡胤，看到武平和南平接連發生喪亂，認為有機可乘，遂采取一箭雙雕的方針：以借道為名滅南平，以救援為名滅武平。
乾德元年(公元963年)正月初七，趙匡胤命慕容延釗、李處耘等出兵湖南。當經過南平時，要求假道過境。南平對宋的借道要求，意見不一。高繼衝未做任何應變準備。
二月初，宋軍進屯襄州(今湖北襄陽)，派人告知南平為宋軍準備給養。這時，高繼衝遣使以犒師為名探聽宋軍的真實意圖。二月初九，使者與宋軍在荊門(今湖北荊門)相遇，慕容延釗假意殷勤款待，暗中由李處耘率輕騎數千，乘夜向江陵急進。高繼衝至城外，等待延釗大軍，而李處耘則率兵先入城，迅速占領江陵城內要地。高繼衝見大勢已去，舉城投降。宋軍滅南平後，征調南平萬餘人，合兵向武平急進。
這時，武平已擊殺張文表，平息了內亂。周保權獲悉宋軍壓境的消息，決定抵抗。於是慕容延釗分兵兩路，水陸並進：水師東出嶽州(今湖南嶽陽)；陸路則出澧州(今湖南澧縣)直指朗州。水路從江陵沿長江順流而下，二月末大破武平軍於三江口(今嶽陽北)，進占嶽州。陸路三月初進至澧州南，同武平軍遭遇，將其擊潰，接著占領朗州，生俘周保權，湖南平定。
北宋占領荊、湖後，後蜀東北兩麵處在北宋的攻擊之下。於是趙匡胤開始謀劃攻蜀事宜。派人勘察川陝地形，以備由陸路攻蜀；同時修造戰船，訓練水軍，以備由水路溯江入蜀。
這時，後蜀也感到了宋軍的威脅。蜀主孟昶采納王昭遠的建議，決定嚴兵拒守，以抗宋軍。當時北宋東臨三峽，北控隴右和秦嶺各隘口。於是後蜀一麵派兵東屯三峽，另一麵派人約北漢同時舉兵夾攻宋朝。哪知派出的使者中途投宋，向趙匡胤密報了後蜀實情，並繪呈後蜀山川形勢和兵力分布圖。正欲伺機攻蜀的趙匡胤，以此為借口，於乾德二年(公元964年)十一月初二，發兵兩路攻蜀：北路以王全斌、崔彥進、王仁贍等率步騎3萬出鳳州，沿嘉陵江南下；東路以劉光義、曹彬等率步騎2萬出歸州(今湖北秭歸)，溯長江西上，兩路分進合擊，會師成都。由於孟昶荒淫腐朽，不修軍政，蜀軍士氣低落，抵擋不住宋軍的猛烈攻勢。宋軍二路兵馬勢如破竹，連敗後蜀軍，迅速進逼成都。
乾德三年(公元965年)正月初七，孟昶見大勢已去，被迫向王全斌投降，後蜀至此滅亡。
宋消滅後蜀後，南漢屏障已失，岌岌可危。開寶三年(公元970年)九月，趙匡胤命潘美為桂州道行營都部署，率兵大舉攻南漢。南漢主劉銥派大將伍彥柔率舟師抗宋。宋軍設伏以待，大破南漢軍。劉钅長急忙起用老將潘崇徹率兵5萬進屯賀江口(今廣東封開西北)。但潘崇徹進駐賀江口後，擁兵自保，觀望不前。潘美見南漢軍逗留不進，遂揮師西上，連克昭、桂、富等州，解除了後顧之憂。十一月迅速轉向東攻克連州。直逼韶州，擊敗南漢李承渥所率10餘萬兵，攻占韶州。消息傳來，南漢舉國震恐。劉銥命郭崇嶽領兵6萬屯馬逕(今廣州北)以守衛興王府(今廣州)。此時屯駐賀江口的潘崇徹，見大勢已去，率部投降。宋軍遂全力推進，迫近興王府。劉銥見形勢危急，遣使向宋軍求和。潘美率軍疾進，於正月二十八日到達馬逕，與漢軍對峙。劉钅長求和後不久即反悔，於二月初一遣其弟劉保興率兵至馬逕增援督戰。二月初四夜，潘美利用火攻，大敗漢軍，郭崇嶽死於亂兵之中，劉保興逃歸興王府，宋軍追擊至城下。二月初五，劉钅長出降，宋軍進占興王府，南漢滅亡。
宋滅南漢後，對南唐形成了三麵包圍。南唐後主李煜為苟安求存，一麵主動削去南唐國號，表示臣服；一麵暗中募兵備戰，以防宋軍進攻。
開寶七年(974年)九月，宋太祖在出兵南唐的準備工作就緒之後，遣使命李煜入朝，李煜懼怕被扣留，稱病固辭。宋太祖以此為借口，以曹彬為統帥，下令進攻南唐。其具體部署是：曹彬率荊湖水軍順流而下，攻取池州以東長江南岸各要點；潘美率步騎兵由和州與采石間渡江，會合曹彬東下直攻金陵；京師水軍自汴水而下取道揚州入長江攻取潤州；以吳越王錢俶率兵從東麵配合宋水軍攻金陵；以王明率軍牽製江西唐軍東下赴援。
十月十八日曹彬率師沿長江順流東下，南岸唐軍以為宋軍是例行巡江，未加阻擊，使宋軍順利通過南唐屯兵10萬的要地湖口。十月二十四日，宋軍突然渡過長江，水陸並進，直趨池州，奪占采石，連克金陵外圍據點，並在秦淮河擊敗南唐水陸軍10餘萬，形成了對金陵的包圍。金陵被圍數月，李煜全然不知。
開寶八年(975年)五月，李煜登城巡視，見宋軍已進逼城下，急忙命朱令讚率10萬守軍東下赴援。朱令讚率水步軍號稱15萬順江東下，在皖口遇王明部阻止。朱令讚以火攻宋軍，因風向改變，反燒自己。宋乘勢猛攻，全殲南唐援軍。此時金陵被圍九個多月，曹彬再三致書勸降李煜，均被拒絕。十一月二十七日宋軍發起總攻，金陵城破，李煜被迫投降，南唐滅亡。
在削平南方諸國其間，宋太祖曾兩次出兵進攻北漢，均未獲克捷。