這時，羅馬在軍事上進行了重大的改革，服軍役的人一切都由國家負責供應。配置陣勢則根據年齡和受訓練的程度：第一排是年輕的投槍兵，第二排是較有經驗的主力兵，第三排是最有經驗的老兵。戰鬥開始時，先由第一排士兵把投槍投向敵人。這種投槍長約兩公尺，裝有尖利的鐵頭，足以刺穿敵人的盾牌和鎧甲。如果遇到敵人頑抗，第二排主力兵就進入前線，形成堅強的戰陣，用雙刃短劍、短刀進行白刃戰。要是還不能取勝，便投入第三排的老兵。軍隊不論駐紮在哪裏，即使隻住一宿，也必須挖壕築牆，防備敵人的襲擊。軍隊有嚴明的紀律，不執行者立即處死。
決戰前，隻見兩軍對壘，各約四萬，旗鼓相當。漢尼拔的中央部分由二萬高盧人和西班牙人的步兵組成，僅有的三頭戰象分別布置在步兵方陣的兩翼前方，用來對付騎兵。緊挨步兵兩側的是騎兵主陣。
羅馬將四個軍團步兵布置在中央，兩側再各安排一個附屬的步兵方陣，共二萬人。四千騎兵麵對敵人的騎兵，與步兵方陣擺齊。其目的顯然在於中央突破，兩翼隻限於保障己方不致被敵人包圍。
決戰時，羅馬兵團威風凜凜，有節奏地拍著盾牌，敲著軍鼓，保持隊形的整齊。迦太基軍也不示弱，在口號聲中集中全力迎了上去。騎兵和戰象最先廝殺在一起。開始時，羅馬士兵看到龐大的戰象，有些膽怯，可是嚴明的軍紀迫使他們沒有選擇的餘地，於是隻有拚命向前。隨後，雙方的步兵殺成一團。雙方像兩頭頂角的公牛，都竭盡全力要將對方頂垮或頂走。
結果，這一仗大長了漢尼拔的誌氣，大滅了羅馬軍團的威風。山南高盧的居民見羅馬戰敗，紛紛倒向迦太基一邊，殘餘的羅馬軍逃出重圍，幸免於難。
羅馬為了保住自己的城市，立刻采取措施：十七歲以上凡能拿起武器的男子全部應征入伍，並將八千名奴隸編入軍隊，宣布誰殺死一個敵人，誰就可以獲得自由。羅馬的公民兵製度在戰爭中顯示了優越性。羅馬公民為保衛自己的家園踴躍從軍。這樣，羅馬從危機中逐漸恢複了元氣，采取迂回分化策略，於公元前211年攻下加普亞，隨後收複了坎佩尼亞等一些城市。
公元前202年，羅馬與迦太基的軍隊在迦太基城以南的紮馬展開會戰。羅馬軍在努米底亞騎兵的支援下戰勝了迦太基軍隊。漢尼拔遭到了第一次也是最後一次失敗。後來，他逃到了敘利亞。
第二年，迦太基被迫求和，和約規定：迦太基放棄非洲以外的全部領土；除保留十艘三列槳船外，其餘船隻一律交與羅馬；賠款一萬塔蘭特，分五十年付清；非得羅馬允許不得與任何國家交戰。
為保證履行上述條件，迦太基被迫交出一百名貴族子弟作人質。從此，迦太基淪為羅馬的附屬國。羅馬取得了西部地中海的霸權。
第二次布匿戰爭後，經過半個世紀，迦太基逐漸恢複並發展了與東方及埃及的貿易。羅馬擔心迦太基複興，羅馬元老加圖每次在元老院發言時總是說：“我認為迦太基必須被消滅。”
羅馬為製造戰爭借口，慫恿努米底亞侵襲迦太基。公元前150年，迦太基和努米底亞發生衝突。羅馬借口迦太基破壞了公元前201年的和約，對迦太基宣戰，於是點燃了第三次布匿戰爭（公元前149—公元前146年）的戰火。羅馬軍隊剛在非洲登陸，迦太基政府就派使者向羅馬司令官求和。羅馬要求對方全部繳械，迦太基照辦了。羅馬人又提出了蠻橫無理要求：迦太基城必須拆毀；居民撤到離海岸十五公裏以外的地區去。迦太基無奈，重又奮起抗戰。他們殺死了乞降的元老，釋放奴隸編入軍隊，日夜製造武器，甚至婦女的頭發也剪斷作了弓弦。羅馬軍隊圍困了兩年，一無所得。
第三年，城內因饑餓和疾病削弱了抵抗力量，羅馬付出重大代價攻進城內。他們放火將城市焚燒了十六個晝夜，並在被毀城市的廢墟上犁出一條溝，表示這是該詛咒的“罪惡的土地。”羅馬將劫後餘生的五萬居民全部賣為奴隸，將迦太基領土劃為羅馬的“阿非利加省”。長達一百餘年的布匿戰爭結束了，迦太基遭到了徹底的毀滅。