匈奴由於沒有提前得到消息，沒有任何準備，加之河南之地的匈奴軍本就力量薄弱，僅五萬餘人，麵對數倍於己的秦軍，倉促之間無法組織起有效的抵抗，河南之地的匈奴軍節節敗退。
頭曼單於得知消息後大為震驚，對左右說道：“從來都是隻有我們匈奴欺負中原人的份，現在蒙恬小兒竟敢欺負到爺爺的頭上！傳我命令，大軍立刻集合，三日後隨我出擊秦軍！”
三天後，匈奴集合十萬大軍進攻榆林。
榆林位於匈奴陰山老巢與河南之地的交界地帶，是秦軍防守的重點區域。蒙恬知道一旦開戰，此處必然會最先受到攻擊，因此在修建長城之初就將此處列為重點地域，這裏的長城不僅城牆高大厚實，而且派十萬重兵把守。
匈奴騎兵來到榆林，高大的城牆阻擋住了去路，匈奴軍一旦接近城牆，秦軍便箭如雨下，匈奴騎兵無法前進半步。數萬匈奴騎兵被阻擋於榆林一線無法求援。
秦軍抓住時機對河南之地的匈奴軍展開殲滅戰。匈奴軍此時東西兩麵被長城阻擋，南麵有王離的精銳秦軍追擊，不得已一路往北撤退，一直退到榆林。此時榆林之地的秦軍經受了南北兩個方向匈奴軍的進攻，戰況異常慘烈。
蒙恬派馮毋擇把守榆林，命令他一定要駐守高地，嚴禁士卒私自出戰。馮毋擇依靠高大的城牆抵禦匈奴騎兵，頭曼單於缺少攻城器械，又受阻於長城圍牆，無法實施遠程奔襲突破，苦戰一個月，秦軍仍然牢牢的控製著榆林之地。
到本年初冬，秦軍已經將河南地區的匈奴部落全部掃蕩肅清，小部分匈奴殘部向西北方向渡河而逃。頭曼單於無可奈何，隻得引軍退去。
蒙恬與王離兩軍彙合後，駐紮於黃河南岸，以待來年春季的戰鬥。
蒙恬知道，順利攻取河南之地完全是因為計劃周詳，出擊迅猛，加之匈奴主力不在河南之地。匈奴單於必不會甘心放棄河南之地，一定還會再度來犯，於是蒙恬決定先發製人，北出長城，攻擊匈奴。
始皇帝三十三年初春，蒙恬將原來防守河南之地的秦軍調到黃河一線防備匈奴，親自率秦軍主力二十萬由九原渡過黃河，攻擊高闕與陶山。
其後不久，副將王離率十萬秦軍西渡黃河進入賀蘭山脈，直搗匈奴老巢。王離率領的這支秦軍作為偏師，僅在夜間行軍，隱蔽性非常好，希望能夠達到出其不意的效果。
且說頭曼單於退回陰山之後，異常惱怒，認為秦軍不過是仰仗長城才取得勝利，如果野戰並非是他的對手。於是下令重新集結十五萬軍隊來年進攻蒙恬，報仇雪恥！
頭曼單於的太子冒頓得知此事後，覲見道：“父王請暫且息怒，秦軍現在統一了中原，先後滅掉六國，我聽說蒙恬又善於帶兵，秦軍兵鋒正盛，現在直接對抗，恐怕難以抵擋！不如暫時退卻，待秦軍驕縱之時，我們再以騎兵出其不意，必大破之！”
頭曼單於哈哈一笑，道：“我兒為何如此膽小？我匈奴人是天之驕子，自幼在馬背上長大，怕過誰？”於是並不聽從冒頓的勸告。
來年春天匈奴頭曼單於集結起十五萬兵力，準備南下攻秦。恰在此時，匈奴探馬來報，稱道秦軍來犯！頭曼單於大驚。問道：“確定是秦軍嗎？有多少人馬？”
“肯定是秦軍，但並不清楚有多少人馬？看陣勢至少有十萬之眾！”
頭曼單於是否生氣，怒道：“再探！此次一定要查清楚有多少秦軍，看不清楚就不要再回來見我！”