後來,裴仁基與瓦崗軍作戰不利,索性投降了瓦崗軍,秦叔寶也順勢成了李密的手下。李密對秦叔寶和程知節十分看重,他挑選了八千名最勇猛的士兵組成“內軍”,分為左右兩軍,分別由秦叔寶和程知節統領。主要任務是充當李密的親衛隊,李密曾說過“我這八千人可當百萬大軍”,可見李密對秦叔寶的賞識和器重。
武德元年七月,瓦崗軍與宇文化及的軍隊在黎陽(今河南浚縣東北)展開決戰,雙方在童山(今河南浚縣西南)腳下殺得是天昏地暗,但最終沒分出勝負。李密被箭射中,從馬上摔下來,昏死過去。瓦崗軍眾人一看頭兒死了,士氣崩潰,宇文化及的大軍又趁勢追殺,眼見瓦崗軍就要一敗塗地。秦叔寶臨危不亂,在千軍萬馬中將李密搶救出來。隨後,又集合散兵敗將,向宇文化及反撲,終於將宇文化及擊敗。但是,瓦崗軍遭受重創,元氣大傷。
受王世充禮遇反歸唐
這時,王世充就想坐收漁人之利,於是率領兩萬精銳對瓦崗軍發起攻擊。這時候李密卻棋走昏招,堅持硬碰硬,在邙山與王世充的軍隊正麵決戰。王世充急於解決溫飽問題,置之死地而後生,在戰場上如同下山猛虎,結果瓦崗軍被打得七零八落。大當家李密撇下部下,投奔了大唐,秦叔寶、程知節萬般無奈之下,歸順了王世充。
王世充很賞識秦叔寶,封他為龍驤大將軍。秦叔寶卻不領情,很鄙視王世充的為人。於是就和程知節謀劃著離開王世充,另投明主。
此時,李淵父子威名遠揚,出師以來勢如破竹,秦叔寶、程知節心中傾慕,決定到大唐去建功立業。619年二月,王世充軍與唐軍在河南九曲作戰,秦叔寶和程知節假裝向唐軍衝擊。一行幾十騎跑出一百多步,一齊下馬向王世充拜別,投奔了唐營。
跟隨秦王平天下
秦叔寶和程知節歸唐之後,被李淵指派到李世民帳下。這時,年方二十的秦叔寶和年輕英武的李世民一見如故,很快受到了李世民的重用。
秦叔寶被授予馬軍總管,程知節被授予秦王府左三統軍。李世民親自挑選千餘精銳騎兵,穿黑衣黑甲,由秦叔寶、程知節等人統領,組成玄甲隊,每戰必為先鋒,開始了掃平割據勢力的征戰曆程。
619年,為平定劉武周,李世民率三萬精兵渡過黃河,在柏壁與宋金剛軍對峙。宋金剛是孤軍深入,利在速戰速決。李世民則再施拖字訣,堅壁不出,又派人截斷宋金剛的糧道。等宋金剛彈盡糧絕的時候,再一舉進攻。在尉遲敬德準備還軍澮州(治翼城,今屬山西)的時候,事先埋伏在夏縣與澮州之間的美良川的秦叔寶,準備給尉遲敬德一個迎頭痛擊。尉遲敬德一時沒有防備,雙方交手之後,才發現此路唐軍勇猛無敵,勢不可擋,尉遲敬德左衝右突,奮力殺出包圍圈,狼狽逃向澮州。秦叔寶部斬首2000餘級,一舉扭轉了整個戰局。
唐軍一麵收複失地,一麵繼續與宋金剛對峙,到了620年四月,宋金剛快餓死了,於是撤兵回軍。李世民後發製人,全力追擊。唐軍將士一天馳騁200裏,連李世民都三天不解甲,兩天沒吃飯,終於在雀鼠穀(今介休西南)追上了宋金剛的主力部隊。一天之內連打八仗,俘斬數萬人。宋金剛萬般無奈,率領兩萬士兵在介休背城布陣,以最後的老本與唐軍決戰。
李世民派秦叔寶、程知節攻打大陣的北端,翟長孫、秦武通攻打大陣的南端。正麵迎擊的李世勣出師不利,李世民親自帶兵衝殺,以泰山壓頂之勢,一舉擊潰宋金剛軍,斬首三千餘人。劉武周、宋金剛逃往突厥,後來死在突厥人的刀下。尉遲敬德、尋相歸降。
柏壁之戰,河東收複,秦叔寶戰功最高,李淵欣喜萬分,加封他為上柱國,賞黃金百斤、雜彩六千段。還派人送秦叔寶一個金瓶,告訴秦叔寶,“你不顧自己的妻子兒女,遠來投奔我,立下了很大的功勞。如果我的肉可以吃,都應該賜給你,何況那些子女玉帛?你要以此為勵,帶領部下,再為大唐立新功”,秦叔寶當時深受感動,畢竟是皇上這麼賞識自己啊!
李世民圍攻洛陽,王世充困守孤城,彈盡糧絕,隻得向竇建德求援。竇建德分析利害後,決定聯合王世充共同對抗唐軍。武德四年三月,竇建德親率十餘萬大軍馳援洛陽,很快推進到東原一帶(今河南滎陽東北廣武山)。李世民采納郭孝恪等人的建議,繼續用重兵圍困洛陽城,自己親率精銳步騎3500人搶占虎牢(今河南滎陽西北汜水鎮西),阻止竇建德軍西進。
五月初二,決戰打響了,秦叔寶橫槍躍馬,手持唐軍軍旗,又從敵軍背麵殺到敵軍正麵。千軍萬馬之中,縱橫馳騁,勇不可擋。敵軍一看完了,於是陣腳大亂。唐軍一鼓作氣,取得了最後勝利,竇建德被抓為俘虜。