五月十日，唐太宗親率六軍經北平（今河北盧龍）、遼澤（今遼寧北鎮與遼中之間澤地）渡過遼水，此時太宗遇到的難題與隋煬帝一模一樣，是時遼澤泥淖二百餘裏，人馬不可通，將作大匠閻立德布土作橋大軍才勉強得過，此時的遼澤上麵還浮有很多當年隋軍將士的遺骨，太宗當時就命人將之收斂埋葬。渡過遼水之後太宗下令毀去橋梁，以此向士卒表示背水一戰的決心。太宗留大軍於馬首山（今遼寧遼陽西南），親自率領數百騎馳至遼東城下，對李道宗慰勞賞賜，越級晉升馬文舉為中郎將，並獎勵了有功將士，處斬了臨陣退卻的總管張君□。
遼東城對於唐軍有特別的意義，煬帝三征，均止步於遼東城，因此對於唐軍來說遼東城是必須越過的一道坎。擊退了高麗援軍以後，李世□當即指揮唐軍將士“負土填塹”，準備向遼東城發起進攻。唐太宗也在馬上負土遞送，於是，隨從官員一起與將士負土致於城下。不幾日，城下溝塹俱被填滿。接著，李世□下令先用拋車攻城。該攻城拋車體積龐大，可將重達三百餘斤的巨石拋出一裏之外，所至皆摧，高麗守軍十分懼怕。為了防禦巨石襲擊，守軍用巨木在城上建築遮擋的戰樓，並用粗大的繩索結網企圖攔截飛石，但仍被拋車所發的巨石擊潰。隨後唐軍又用撞車摧毀了遼東主城左近的所有副樓。就這樣，唐軍接連攻城二十多天，晝夜不息。
李世□與張儉等率領驍銳與契丹等少數民族兵一起，攻遼東城南。李道宗和張士貴等攻遼東城西，李宏基等率兵填其壕塹，唐太宗亦率所統六軍相助，將遼東城包圍了數十百重，水泄不通，鼓噪之聲，震天動地。五月十七日，南風勁吹，唐太宗以火弩齊射，點燃了西南城樓，大火燃及城中住宅，火光衝天，接著下令精銳士卒登上衝竿之頂，一舉登上城牆。高麗守軍舉大盾以短兵反衝擊，企圖奪回城牆，唐軍以長矛列陣下擊，後麵的唐軍在城牆上以□石奮力下砸，高麗軍終於抵擋不住，被殲一萬餘人，俘虜高麗軍一萬餘人，俘獲城中男女四萬餘口，獲得糧食五十萬石。唐太宗遂以遼東城置遼州，並舉烽火入塞，向太子所居定州通告捷報。