因此，在兩軍真正的決戰到來之前，雙方勢必要在洺水城展開一場激烈的爭奪戰。
接下來我們就將看到，這場爭奪戰的確打得十分慘烈。李世民的麾下猛將羅士信就是在這場戰鬥中被俘身亡的。
從二月下旬開始，劉黑闥就對洺水城發起了持續不斷的猛烈進攻，李世民三度率軍渡河增援，均被漢東軍擊退。眼看奮力死守的王君廓已經力不能支，李世民召開會議商討對策，驍將羅士信遂自告奮勇，帶著親兵二百人前往接應。結果在混戰之中，王君廓突圍而出，羅士信反而衝進了漢東軍的重圍之中，繼續據城而戰。劉黑闥日夜猛攻，唐軍多次試圖增援，卻因連日天降大雪而受阻，羅士信帶著兩百人獨自堅守八天之後，終於城破被俘。劉黑闥感其驍勇，勸他投降，羅士信誓死不從，被劉黑闥斬首，死時年僅二十歲。
劉黑闥雖然一度奪回洺水，但到了二月末，李世民還是命李世勣將其重新占據。三月初，羅藝率軍進抵洺水南岸，與李世民主力會師。劉黑闥不斷挑戰，李世民再次采用了他的一貫戰略，堅壁不出，隻是派兵封鎖漢東軍的補給線。三月十三日，從冀州、貝州、滄州（今河北鹽山縣西南）、瀛州（今河北河間市）等地發出的糧草和補給分水陸兩路向洺州運來，李世民立刻命程名振率部阻截，將漢東軍的糧船和糧車全部焚毀。
從二月初一直到三月下旬，唐軍與漢東軍就這樣在洺水兩岸僵持了將近六十天。
劉黑闥逐漸陷入絕境。
三月二十三日，為了擺脫困境，劉黑闥出動大軍，全力攻擊李世勣，李世民親率一部渡河襲擊劉黑闥的後背，不料劉黑闥反而回軍將李世民重重包圍。
李世民再次經曆了他軍事生涯中又一個可怕的生死瞬間。
千鈞一發之際，尉遲敬德率部突入重圍，奮力救出了李世民。
隨後的幾天，李世民料定洺州城糧草已盡，劉黑闥必將被迫發動決戰。為了吸引劉黑闥到南岸來決戰，一舉殲滅劉黑闥的有生力量，李世民遂命部將到洺水上遊攔河築壩，並且下了這樣一道命令：“待我與賊戰，乃決之！”（《資治通鑒》卷一九〇）
所謂“乃決之”，就是決堤泄洪！
洪水無情，在兩軍會戰之時決堤泄洪，是否意味著唐軍將士將與敵人玉石俱焚、同歸於盡？
讓我們暫時擱置這個問題，先來看看這場戰役的經過。
三月二十六日，決定劉黑闥命運的洺水之戰打響了。
劉黑闥率步騎兩萬，南渡洺水，緊逼唐軍大營列陣。李世民親率精銳騎兵首先攻擊劉黑闥的騎兵，將其擊破，並乘勝衝入漢東軍的陣地，橫掃其步兵。劉黑闥深知，輸掉這一仗他就很難再有翻身的機會，於是率眾殊死奮戰。而他麾下這些剽悍驍勇的河北將士也人人抱定背水一戰的決心，所以打得異常頑強。兩軍一直從中午苦戰到黃昏，往來衝殺，難分勝負。唐軍雖然略占上風，但始終未能取得決勝的優勢。
就是在這場激烈的戰鬥中，李世民所騎的那匹旋毛黑嘴的駿馬拳毛騧身上足足被射中了九箭，前胸六箭，背後三箭，最終倒在了戰場上，其表現可謂壯烈！（拳毛騧也是著名的昭陵六駿之一；李世民為其題寫的讚辭是：“月精按轡，天駟橫行。孤矢載戢，氛埃廓清。”）
暮色徐徐降臨，雙方仍然鏖戰不止。漢東軍將領王小胡發現漢東軍已經漸露頹勢，連忙對劉黑闥說：“看來是頂不住了，咱們還是趁早抽身吧。”劉黑闥雖然極不情願，但他對戰場上的形勢同樣不抱樂觀態度，無奈之下，隻好和王小胡等少數將領暗中撤出了戰鬥。
劉黑闥就這麼腳底抹油、一走了之了，可他麾下的絕大部分將士卻根本沒有察覺，依舊在那裏拚死砍殺。最後漢東軍再也無力堅持，隻好向洺水北岸潰逃。
就在他們全部進入河溝的時候，洺水河上遊的滔天巨浪轟然而下。
當精疲力竭的漢東軍士卒睜著血紅的雙眼，看見一丈多高的洪水仿佛萬馬奔騰一樣席卷而來的時候，他們幾乎連恐懼和絕望都來不及體會，就在一瞬間被咆哮的洪水全部吞沒。
此次戰役的結果是：漢東軍被“斬首萬餘級，溺死數千人”，幾乎全軍覆沒，劉黑闥僅與範願等人帶著二百餘騎逃奔東突厥。
很顯然，雖然劉黑闥逃脫一死，但是有生力量喪失殆盡，唐軍大獲全勝，可以說李世民的戰略目的基本上是達到了。
但是，讓後人詬病不已的就是李世民那個決堤泄洪的命令。
人們往往據此大罵李世民殘酷無情。比如柏楊先生就對此大為不屑，因而發表了一番義正詞嚴的評論，而且他的觀點流傳甚廣，似乎挺能代表相當一部分人的看法。為了辨明這個曆史真相，首先讓我們來看柏楊先生的原話：“一般戰爭中，使用水攻，都在敵人‘半渡’之時，或進軍半渡，或退軍半渡，這樣才能發揮殲滅性的效果。洺水之戰則不然，李世民的命令沒有提到敵人‘半渡’，而是明確地說：‘等我跟叛賊會戰，你就破壞堤防！’兩軍會戰時鑿堤，大水沒有眼睛，豈能分辨敵我！很明顯的，李世民在這場戰役中，采取的是敵我同歸於盡的戰術，李世民和高級將領沒有危險，因為他們早就脫離戰場……李世民決心要犧牲那些效忠他的政府軍士卒，用以消滅劉黑闥這個突然崛起的勁敵。否則，不會在兩軍殺成一團的會戰時決堤。這場在曆史上並沒有名氣的水淹三軍，恐怕是一個殘酷的集體謀殺。”（《資治通鑒》柏楊白話版）