在成吉思汗率領的中路軍洗劫華北大平原的同時，他的三個兒子術赤、察合台和窩闊台率領的第二支軍隊循太行山向南進攻。這第二支軍隊稱為右路軍。之所以稱這支軍隊為“右路軍”，是因為蒙古軍隊都是向南進攻。這支右路軍循河北西部太行山東麓南下，公元1213年12月7日，蒙古軍攻進保州（今保定）後，命令城內百姓齊集廣場之上，不分老幼，全部殺光，唯獨留下工匠不殺。
當時，有一個姓楊的人，為了保住性命，他冒充自己是工匠出身，才沒有被殺。蒙古軍隊裏有人提出要檢查一下這些自稱是工匠的人，嚇得他不知所措。這時候，旁邊一個人低聲對他提醒道：“會拉鋸的，就算是木匠了。”
那位楊某人總算是渡過了難關，當時凡冒充工匠的人，都得到了幸免。多虧蒙古人看重手工業技術，那些有一技之長，或是冒充有一技之長的人，才得以死裏逃生。
攻克保定後，右路軍又一直攻到位於河南省境內黃河以北的懷慶。接著，他們又通過太行山南部山口，登上黃土高原（古代的山西省）。
成吉思汗家族的這三位王子登上山西黃土高原，進入由北而南將山西一分為二的汾水流域。他們溯汾水河穀北上，攻占了位於汾水河畔的汾水附近的主要城市如平陽、汾州、忻州等。他們甚至還攻占了山西首府太原城，盡管太原城城牆高而堅，護城河水深而寬。在蒙古軍入侵以前的曆次戰爭中，太原城曾無數次阻止住了敵人的進攻。馬可·波羅和其他13世紀時期的作者曾讚揚太原城十分繁榮，是冶金中心和葡萄種植中心。這樣一個城市竟被蒙古軍輕易攻陷，說明當時蒙古軍隊采取的戰略曾使守城將士驚惶失措到了何種程度。太原城守城將士原以為蒙古軍隊會從北麵，即大同方向進攻，所以他們的注意力全集中在北線。當他們發現蒙古軍隊突然出現在南麵時，頓時驚惶萬分，不知所措。蒙古軍攻陷這座城池以後，即縱情洗劫，毀掉農場，屠殺農民，燒掉糧食。無論金帛子女、牛馬羊畜，皆席卷而去，不能帶走者，盡行焚毀，因此，所到之處，全都變成焦土。
然後，他們打馬北去，經代州和大同，返回長城腳下，在那裏收藏好繳來的戰利品。之所以要將其戰利品收藏在那裏，是因為那裏是他們的朋友汪古部的地盤，遠離南方定居居民，處於大草原的邊緣。
成吉思汗的弟弟合撒兒率領的第三支軍隊（左路軍）也是從中都出發。這支軍隊沿海岸，過平州，向東北方向進攻。左路軍先攻下薊州，然後他們沿路攻陷山海關和涿鹿。在涿鹿城裏，蒙古軍隊縱情洗劫、屠殺百姓，焚燒房屋，跟隨哈撒兒的將領薄剌與他的副將卜穀也怯，在一戶人家調戲婦女時，被家人捉住，活活吊死在樹上。
合撒兒得知消息以後，部將斡陳那顏提議對附近百姓進行報複時，合撒兒說道：“殺死反抗的百姓再多，也能說得過去；他倆侮辱婦女，那是違犯軍紀的行為，大汗知道了，也不會饒恕的。”合撒兒最終沒有答應他們要進行報複的請求，這說明野蠻的屠殺與奸淫行為，在蒙古將領中也是不得人心的。合撒兒的這支左路軍，接著又攻入了遼寧地區，占領了女真族的發祥地，即上滿洲的洮爾河、納水（即嫩江）、鬆花江，直至阿穆爾河即黑龍江流域的廣大地區。
這時候，金宣宗將主要兵力集中在中都城裏，無力保護地方州縣，各地的金朝將領，隻好自謀出路，紛紛向蒙古軍隊投降。公元1214年的春天，蒙古三路大軍橫掃中原，幾乎攻占了黃河以北的所有郡、縣。今河北、山西、山東三省，方圓數千裏，幾乎都遭到蒙古騎兵的踐踏。人民殺戮幾盡，金帛子女、牛馬羊畜，皆席卷而去，屋廬焚毀，城郭丘墟。屍橫遍野，村莊變成廢墟，雞犬絕跡，真是慘不忍聞。有一位詩人目睹了當時的慘狀之後，悲憤地寫道：白骨縱橫似亂麻，幾年桑梓變龍沙；隻知河朔生靈盡，破屋疏煙卻數家。