河南之地位居漢朝都城長安與匈奴王庭之間，是一塊意義非凡的戰略要地，對於漢匈雙方而言，誰要是占有這塊地盤，誰就擁有了一柄劍，這柄劍最大的作用，就是可以直插對方心髒。
衛青收複河套後，匈奴不甘心失敗，多次出兵襲擾雁門、定襄、上郡等漢朝邊境，想要奪回河南之地。元朔三年，也就是河南之戰後的第二年，軍臣單於死，軍臣單於的弟弟左穀蠡王伊稚斜與軍臣單於的太子於單爭奪大單於之位，於單不敵降漢，伊稚斜於是自立為匈奴新單於。伊稚斜繼位匈奴大單於後，對漢朝邊境的襲擾更加頻繁，匈奴右賢王部更是屢次進犯朔方，殺擄民眾，企圖奪回河南。
為了鞏固朔方，解除匈奴對河套平原的威脅，元朔五年（前124），也就是河套大捷後的第三年，劉徹發兵十萬，開始實施對匈作戰的第二步戰略攻勢，此次戰略攻勢的意圖，就是進攻盤踞在漠南的匈奴右賢王部，切斷匈奴的右臂。
建元新政失敗後，劉徹通過在上林苑的狩獵，體悟了匈奴騎兵機動作戰的真諦，此次出擊右賢王部，劉徹的戰略思想依舊是閃電奔襲，以其人之道還治其人之身。
為了盡可能取得戰爭的勝利，劉徹決定此次兵分東西兩路，以衛青的三萬騎兵為主力對付匈奴右賢王，同時讓李息、張次公出兵右北平，在東邊牽製匈奴左賢王部，策應衛青在西路的進攻。衛青打仗，十分擅長千裏奔襲閃電一擊，作為西路軍的主帥，他率麾下李廣、公孫敖、公孫賀等六將經朔方出高闕，越過邊境六七百裏，然後直奔匈奴右賢王王庭。自從收複河套後，匈奴右賢王的王庭便與漢邊境赤裸裸相對著。匈奴右賢王這個人雖然比較驍勇剽悍，但身為一個男人，尤其是匈奴部高高在上的王族，他也比較好色，不但好色，而且還十分嗜酒。當衛青率領漢朝的精騎出高闕直奔他王庭而來時，他還摟著美女在帳中宴飲，在他的意識裏，其王庭雖然與漢朝邊境赤裸相對，但距離比較遠，而且漢朝的騎兵素來孱弱，要想襲擊他，那是絕不可能的事。到這個時候了，他還在做夢。
匈奴右賢王的宴飲進行了很長時間，宴飲結束，他也有八九分醉了，這時候便搖搖晃晃起身，左擁右抱摟著美女就寢去了。入夜後，當衛青的騎兵突然到來時，溫柔醉鄉中的右賢王被驚天動地的喊殺聲驚醒過來，待得弄明白是怎麼回事，這才慌張起來。往日剽悍的匈奴右賢王，此時麵對突然襲來的衛青所部，就如同嬰兒麵對猛虎一般毫無抵抗之力。右賢王是聽說過衛青的大名的，對於衛青，他還是比較懼怕的。當聽說偷襲他的人是漢朝那個名叫衛青的將軍時，右賢王跳出大帳，一拍馬屁股就望北而逃了，臨走之時，竟然還沒忘記帶上一名美女。
衛青的突襲幾乎是一氣嗬成的，毫不費力便將右賢王部衝擊得支離破碎。這次的突襲斬獲頗豐，幾乎全殲匈奴右賢王部，匈奴右賢王部的裨王從眾一萬五千多人盡皆做了俘虜，除此之外，還有十多萬頭的牛羊馬匹等牲畜。但對劉徹而言，這些都不是他所看重的，真正值得他高興的是漠南之戰的戰略意義，匈奴右賢王潰北以後，匈奴主力與河西走廊上休屠王、渾邪王之間的聯係便被一刀切斷，收複河西從此指日可待。
當漠南大捷的消息傳到長安時，長安百姓歡欣鼓舞，劉徹也大為振奮。為了獎勵衛青的戰功，劉徹派人捧著漢朝大將軍印信前往朔方，加封衛青食邑八千七百戶，拜為大將軍，漢朝所有將領皆歸衛青統率，就連衛青三個繈褓之中的兒子，也被封了侯，劉徹的高興，由此可見一斑……
匈奴右賢王的失敗讓伊稚斜單於大為震怒，同時又極不甘心。為了報複漢朝，同年秋天，伊稚斜派萬餘騎兵襲入代郡，瘋狂屠殺一番後，劫掠千餘人而去。
伊稚斜的報複激怒了劉徹，此時的劉徹，心中考慮的是如何殲滅匈奴主力的問題。
次年春天，劉徹便讓大將軍衛青率軍十餘萬北出定襄，去尋找伊稚斜單於本部進行決戰。衛青麾下，統領著後將軍李廣、中將軍公孫敖、強弩將軍李沮等六人。衛青率軍由定襄出塞後不久，便遇到一股匈奴部隊，雖然殲敵數千，但卻不是匈奴主力。