李世民避開眾人的議論，作了一番冠冕堂皇的訓諭後，即命左武侯大將軍程咬金擔任青丘道行軍大總管，中郎將軍薛仁貴當副總管，征發一萬多兵力，乘樓船從萊州橫渡黃海北上。又任命太子詹事李世魴擔任遼東道行軍大總管，帶領三千兵馬，會同營州都督府的兵馬，從新城道進人高麗。兩路大軍都配備精通水上作戰的將士。
李世觔率軍渡過遼河，掃蕩蘇南（今遼寧西豐縣）等數城。高麗軍多背靠城堡拒戰。李世肋擊破守軍，焚燒其城郭後回師。程咬金和薛仁貴帶兵進人高麗國境，大小一百多次會戰，戰無不勝。又攻克石城（今遼寧莊河縣），推進到積利城下（今遼寧瓦房店市）。高麗一萬多人馬出城迎戰，程咬金詐敗，引誘高麗軍踏進了薛仁貴的口袋陣地，一舉將其擊潰，陣斬三千級。
征戰相當順利。高麗防不勝防，隻有招架之功，而無還手之力。李世民決計增加兵力，乘勝進擊，踏平高麗。敕令宋州刺史王波利等征發江南十二州的工匠，修造大船數百艘，準備調集兵馬由海道出征。又命右武衛大將軍薛萬徹擔任青丘道行軍大總管，右衛將軍裴行方當副總管，領兵三萬餘人，乘樓船戰艦自萊州出港，取海路攻擊高麗。
高麗愈來愈疲困凋敝，提心吊膽，談虎色變，瀕臨絕境般的恐怖。李世民堅定了必勝的信念，舉行朝會，議定明年征發三十萬兵馬，下狠心滅掉高麗王國。李道宗捋著疏朗的胡須琢磨片刻後，出班啟奏說：
“大軍遠征，必需儲備一年以上的糧食。牛馬車輛無法運送那麼多的軍需糧草，最好利用船運。”
“隋朝末年，隻有劍南未發生大亂，亦未出現兵災。近來攻打遼東，劍南也置身事外。百姓富庶，安居樂業，應由他們修造舟艦。”
房玄齡的建言，李世民當即采納。詔令右領軍府長史強偉去劍南道，督促伐木造船。規定大艦長一百尺，寬五十尺。造好後，另派使者督促舟艦從水路穿過巫峽，經江州、揚州，駛至萊州停泊。接著，又敕令越州都督府以及婺州、洪州等州，修造海船及兩船相並的雙舫一千一百艘。
八、九月，遼東地區便開始了漫長的寒凍期。一團團陰沉沉的翻卷著的濃雲，在低空沉重而緩慢地移動著，煞像一幅從天而降的裹屍布徐徐擴展開來。散落在各處的村落、水塘、河流、樹林，以及遠方連綿起伏的山嶺，在暗雲淡霧的映襯下，酷如死人一般蒼白，顯得十分淒涼而悲慘。空氣中布滿了潮濕和腐臭的氣息。路上細鹽似的白霜和塵沙混在一起，被逃難的人流和牲口踐踏成了膠狀的泥濘。軍馬在泥漿裏滑來滑去，走得又艱難又吃力，嘴裏呼出的氣息恍如煙霧一樣。薛萬徹不敢呆下去了，帶領人馬從高麗撤退，回到了長安。無功而返的薛萬徹怨天尤人，火氣特別大，驕橫囂張，任情使氣，侮辱同僚，鞭笞士卒。裴行方上疏彈劾他對東征不滿，心懷怨叛。李世民對征遼特別敏感，立即罷免了薛萬徹的官職，貶竄象州。
強偉等人在劍南集結民間工匠製造舟艦，大量征調山獠蠻民去做苦力。蠻民忍受不了，雅、邛、眉三州的山獠部落在逃亡中遭到追殺。官逼民反，公開叛變。征討高麗再次遇到了麻煩，走進了舉步維艱的境地。
劍南道山獠部落造反，告急文書傳到京都，朝廷命令茂州都督張士貴和秦叔寶，征發隴右及峽中的兵馬三萬餘人，進山剿捕。又命尉遲敬德和司農少卿長孫知人乘驛馬前往劍南，同當地官員一道慰勞工匠，安撫民眾。剿撫並舉的措施產生了立竿見影的效果，很快平息了蠻民的叛亂。秦叔寶和張士貴上表告捷，並奏請說：“蜀人體質脆弱，承受不住劇烈的勞動，當地官府請求雇傭善造戰船的潭州人代勞，由他們出錢。”李世民批準。