當晚，在雀鼠穀宿營。李世民和將士們已經兩天沒有吃飯，三天沒有解甲睡覺。他們稍稍休息。接著，李世民帶兵繼續追擊。
這時，宋金剛尚有兩萬精銳部隊，在城西寬闊之處，背城布陣，南北相連有六七裏長。宋金剛擺出這樣的陣勢，準備和李世民決一死戰。李世民知道決戰的時刻到了，他命李世勣、程咬金、秦叔寶在北麵布陣，翟長孫、秦武通在南麵布陣，他本人則親率3000精騎衝其陣後，這一仗都抱著必死的決心，雙方殺得難分難解，屍橫遍野，血流成河。但畢竟宋金剛新敗，士氣低落，難以抵擋，大敗而逃。李世民追出幾十裏，一直追到張難堡，摘下頭盔向堡壘上的士兵示意，守堡壘的軍士認出李世民，都歡呼雀躍，高興得流下淚來。隨從告訴守軍：秦王還未進食。守軍便獻上混酒、粗米飯，秦王吃得很香。在張難堡，敵軍將領尉遲敬德、尋相等率餘部8000人來降。
尉遲敬德籍屬朔州，武勇善騎，是一位傑出的精騎將領。李世民得到尉遲敬德非常高興，引為右一府統軍，並讓他仍然統領八千舊部。有人擔心尉遲敬德會叛變，李世民不聽，說：“昔蕭王推赤心置入腹中，並能畢命，今委任敬德，又何疑也？”
宋金剛收拾殘部，準備再戰，但部眾都不肯隨他與唐作戰，於是宋金剛隻得和一百多騎兵逃往突厥。至此，劉武周的大部分軍隊被李世民打敗了。劉武周得知全軍潰敗，隻得棄太原北走。不久，宋金剛打算從突厥跑回上穀，被突厥捉回，處以腰斬之刑。
劉武周當初南侵犯唐時，他的內史令範君璋曾規功道：“唐主以一個州的兵力，直取長安，所向無敵，這是上天有助，不是人力。晉陽以南，道路狹窄險要，孤軍深入，後無援軍，假如進軍攻戰不利，怎麼回軍？不如北麵聯合突厥，南麵與唐結交，在此一方稱王稱霸，才是長遠之計。”劉武周不聽，留範君璋守衛朔州，自己率軍南下。劉武周失敗後，流著淚對範君璋說：“我沒有采納你的意見，以至於到了現在這種地步。”過了一段時間，劉武周策劃從突厥逃回馬邑，事情泄露，被殺。突厥人任命範君璋為行台，統領劉武周的餘部。
經過半年艱苦卓絕的戰鬥，李世民圓滿完成使命，收複了晉、汾舊地，消滅了又一個“爭天下”的強大敵人，為鞏固新建的唐朝政權立下了卓越功勳。戰役結束以後，李世民升李仲文為並州太守，自己率大軍凱旋而歸。
在這次戰役中，李世民在軍事作風上堪稱楷模。作為一個封建時代的軍事指揮者，能夠在戰鬥中做到身先士卒，與士兵同甘共苦，確實是難能可貴。李世民在軍事指揮上創造了一個奇跡，古語說“窮寇莫追”，但李世民一追到底，全殲敵軍。李世民對實戰的自如運用，真是到了很高的境界。
平定劉武周是李世民一生中指揮的第二個大戰役，這次戰役，從武德二年十一月出征，到第二年四月結束，戰爭持續半年時間，最終以李世民的勝利而告終。戰爭的初始階段對唐軍是不利的，但是李世民巧妙運用“堅壁挫銳”的方略，使唐軍由劣勢轉變為優勢，從接連潰敗到大獲全勝，整個戰爭是驚心動魄的。李世民不同凡響的軍事指揮才能，在這場戰爭中可謂發揮得淋漓盡致，對戰略戰術的運用也達到了爐火純青的程度。對戰場的把握，對敵人敏銳的洞察，正確的判斷，使他每戰必勝。這同時也讓他在軍隊和朝廷中有了很高的聲望，他手中不但掌握著軍權，而且政治上也得到不少實惠。
擊敗劉武周，不僅穩固了關中形勢，而且為進一步統一全國創造了條件。
平定劉武周勢力後，唐王朝把戰爭的重點轉移到了關東地區。經過3個月的征戰，李世民打敗了河南的王世充和河北農民軍竇建德，唐初的統一戰爭取得了進一步的勝利。但是，在鎮壓竇建德的餘黨這件事上，李世民花了很大力氣。
在平定河北以後，竇建德的餘黨散歸鄉裏，其中有部分人極不甘心。偏偏地方官吏不能將唐中央的寬加撫慰的政策執行下去，隻要是竇氏部眾，便用嚴刑酷法加以鞭撻，怨恨益生，官吏們恐其生禍，當即奏請朝廷。朝廷下詔：竇氏故將入京。這是一種官逼民反的做法，使河北竇氏餘眾無法再安下心來生活。就在武德四年七月中旬，他們終於忍無可忍，再次掀起起義的大旗。