唐幽州總管李藝（原名羅藝。隋末任虎賁郎將。武德元年歸唐後，賜姓李，封燕郡王）率所部數萬人來和李世民會合。劉黑闥留範願守洺州，自帶精兵與李藝對陣。李世民派程名振連夜運六十麵大鼓，在城西二裏堤上，一齊擂響，鼓聲大振，響徹雲天，連城中都搖動起來。
範願大驚，派人飛報劉黑闥，劉黑闥迅速返回城，隻得派其弟劉十善、行台張君立，率兵萬人，到了徐河。正月三十日，雙方在徐河（今河北徐水縣）交戰，結果劉十善、張君立大敗，損失8000人。
同日，沼水人李去惑開城降於李世民軍，李世民派王君廓率1500名騎兵入城，和李去惑共守洺水。
二月，劉黑闥回師洺水，行至列人縣（今河北肥鄉東北），遭到秦叔寶的截擊，劉黑闥失利。十七日，李世民收複邢州（今河北邢台），李藝則奪占定、欒、廉、趙四州，抓獲劉黑闥的尚書劉希道，後與秦王會師於洺州。
劉黑闥進攻洺水，因城在水上，不便進攻，就從東北兩隅築兩處通道，以便靠近城牆。李世民帶兵前去支援，三次均被擊回，於是召集諸將商量。
李世民說：“通道將要築成，敵兵如到城下，城肯定不能守了，不如叫他們突圍出來，再商量破敵辦法。”話未說完，羅士信自請戰：“我願去守城。”
李世民說：“城已垂危，恐不能守。”
羅士信說：“城存吾存，城亡吾亡。”
李世民登上城南高塚，舉旗招王君廓回，派羅士信接應。羅士信率二百騎前往，君廓殺出，羅士信馳入，劉黑闥又把城圍住，接連八晝夜，羅士信衣不解甲，目不交睫，住城上督守。
忽然天降大雪。滿城皆白，目為之眩。劉黑闥乘機攻入。羅士信挺著長矛，刺殺頭目多人，身受重傷，飛馬奔回，因大雪彌漫，看不清路，陷入泥淖中被俘，英勇不屈而死。
三月，李世民與李藝於洺水城南紮營，以部分兵力屯於沼水之北。劉黑闥多次挑戰，李世民堅壁不戰，出奇兵切斷了劉黑闥的運糧道。
秦王李世民與劉黑闥相持其間，雙方都采取襲擾的策略打擊對方：
一次，劉黑闥陣中的高雅賢在營中喝酒，李世民派李世勣出兵襲擊，殺人高雅賢營中，高雅賢已經酣醉，上馬出戰，被李世勣部將刺中，墜落馬下，雖被部下救回，未回到營時就死了。
劉黑闥從冀、貝、滄、瀛州運糧，水陸並用，唐將程名振率兵截擊，弄沉了運輸船，燒毀了運糧車。同樣，劉黑闥也暗中偷襲李世勣軍營，李世民聞訊，立即帶兵突襲劉黑闥的背後，結果被劉黑闥包圍。尉遲敬德率壯士衝入包圍圈，李世民才得以脫險。
雙方相持六十多天。李世民知道劉黑闥糧盡必來決戰，便秘密派人堵住洛水上遊，令其監守，在決戰時放水。劉黑闥渡水南來，逼進唐營。李世民統領精騎，破其前陣，又搗入後隊。劉黑闥督兵死戰，從中午到天黑，鬥了數十回合，漸漸支持不住，劉黑闥帶著一部分將領悄悄逃走，其餘的還在格鬥，不防上遊放水，河水漫過兩岸，劉黑闥的兵被漂去幾千人，留下的一半被唐兵殺盡。
劉黑闥過了洺水，手下隻有兩百騎，隻好逃往突厥，李世民趕走劉黑闥，再一次平定山東。
六月一日，劉黑闥在突厥的支持下，侵犯山東（今太行山以東）。
六月十七日，劉黑闥侵犯定州。他的舊部屬曹湛、董康買重新召集兵馬響應。
九月，劉黑闥再次攻陷瀛州，殺死刺史馬匡武。鹽州人馬君德反叛，以鹽州城歸附劉黑闥。河北一帶的局勢再度動蕩。
十月四日，在秦王李世民已於七月奉詔回長安的情況下，唐高祖任命齊王李元吉為領軍大將軍、並州大總管，率軍進擊劉黑闥軍。
五日，貝州（今河北武城）刺史許善護與劉黑闥的弟弟劉十善戰於俞縣，許善護全軍覆沒。六日，唐右武侯將軍桑顯和於宴城（今河北束鹿東北舊城），將黑闥軍擊敗，而此時唐觀州刺史劉會卻舉城降於劉黑闥的部隊。
十七日，唐淮陽王李道玄率軍3萬，與黑闥軍戰於下博（今河北深縣東南）。由於副將史萬寶與李道玄不和，史萬寶率主力在後，按兵不動，結果，李道玄敗亡。黑闥軍消滅李道玄後，又擊敗了史萬寶。
李道玄死時才19歲，李世民深為痛惜地說：“道玄常跟隨我征伐，見我深入敵陣，心中羨慕想要模仿，才會這樣。”李道玄的敗死，使山東唐軍極為震駭，唐洺州總管廬江王李瑗棄城西逃，其餘州縣皆叛離唐軍，歸附劉黑闥。十日之內，劉黑闥完全收複了舊地。
二十七日，劉黑闥進入洺州。十一月三日，唐滄州刺史程大羅為劉黑闥所迫，棄城逃走。齊王李元吉畏懼劉黑闥兵強，不敢進兵。