匈奴汗國有足夠的強大，西漢在公元前2世紀獲得的勝利，包括奪取了它最富庶的河西走廊，也隻能使它受創，不能使它屈服。而受創的匈奴汗國，仍是勁敵。
一、蘇武牧羊
在公元前101年，匈奴的且鞮侯單於即位，派使者來表示與漢朝和解的願望，並且把過去所拘留的不願投降的漢朝使節，都放回長安。為了表示漢朝的誠意，漢武帝派遣正使蘇武、副使張勝出使匈奴汗國，並送還被漢羈留的匈奴使者。在蘇武等人沒有到達匈奴之前，有一個被扣留的漢朝使節衛律投降了匈奴，很得匈奴單於的重用。衛律的手下對此很不滿，打算乘且鞮侯單於出去打獵時，殺死衛律，然後將單於的母親閼氏劫持回漢朝，副使張勝對他們表示同情。不料事情敗露後，單於大怒，經過一場流血殺戮，膽小的張勝，投降了匈奴。單於軟硬兼施讓蘇武投降，蘇武拒絕並表示既然不能完成使命，即使活下去也沒有顏麵回漢。他還拔刀自盡，但被人救下。最後匈奴把他放逐到冰天雪地的北海（貝加爾湖），讓他放牧公羊。並且告訴他隻有公羊生了小羊，才能放他回去。
蘇武牧羊
蘇武到了人跡罕至的貝加爾湖邊，與他為伴的隻有那根代表漢朝的使節棒和羊群。蘇武牧羊十九年，為了堅持自己的身份，他持節牧羊，起臥操持，以至節旌盡落。蘇武堅持不投降，匈奴汗國便對外說蘇武已死。投降匈奴的李陵曾到北海勸降，但蘇武誓死不從。到了公元前81年，匈奴且鞮侯單於死了，匈奴發生內亂，沒有力氣和漢朝打仗了，漢匈再一次複交。出使匈奴漢國的使節知道了蘇武仍然活著的消息，要求匈奴放了蘇武。匈奴謊稱蘇武已經死了，漢朝使者麵對如此狡猾的說法，不得不假裝憤怒地說：“漢朝皇帝曾射下一隻雁，雁足上有著蘇武求救的信件。”匈奴吃了一驚，不得不釋放蘇武。蘇武四十餘歲時出使匈奴漢國，六十餘歲才得以回漢。此時的他已兩鬢斑白，家人也早都沒了。他回到長安的那天，長安的父老鄉親都來迎接他。漢昭帝任命他為典屬國。他的故事，被改編成無數小說、戲劇和歌曲，歌頌他忠於國家、堅貞不屈的愛國精神。
且鞮侯單於
二、李陵被俘
公元前99年，西漢大軍分成兩路朝匈奴國進發，一路是由李廣利率領，帶兵到酒泉（甘肅酒泉），進入西域，到達了天山，但是被匈奴擊敗。另一路由大將李陵率領，情形更加不妙。李陵帶領五千步兵，從居延海（內蒙古額濟納旗）出發，朝北進入沙漠地帶，行軍三十多天，前行到了浚稽山（蒙古戈壁阿爾泰山），跟匈奴且鞮侯單於的3萬主力軍隊相遇，李陵身先士卒，帶領部下奮力殺敵，匈奴死傷幾千人。且鞮侯單於集結援軍，集合了約8萬餘騎，李陵隻得率軍且戰且退，卻始終擺脫不了對方騎兵的追擊。匈奴軍隊分成兩支，左右展開，把李陵所領兵士夾在其中。
浚稽山之戰
苦戰數日之後，李陵帶兵退到一個不知名的山穀，士兵傷亡慘重，李陵命令受傷三次以上的士兵才能坐車，受過兩次傷的士兵改為駕車，隻受一次傷的士兵繼續戰鬥，又使匈奴損失了3000餘人。又走了四五日，他們進入了一片長著茂盛葦草的畜牧地帶，匈奴采用火攻，李陵命令士兵在匈奴之前燒掉周圍的蘆草，這樣，匈奴的火燒過來就自動滅了。李陵帶兵又向南行，抵達山丘區域，且鞮侯單於命令自己的兒子率軍攻擊，卻中了李陵在樹林中設的埋伏，匈奴中有三四千人被殺。
西漢大將李陵
且鞮侯單於親自指揮16倍於對方的精兵，圍追堵截了十多天，不但沒能取勝，而且損失慘重。且鞮侯單於擔心這樣追擊下去不會有結果，同時又擔心漢王朝的援軍到來，開始猶豫要不要撤軍。李陵在沙漠中又堅持向南走了五天，匈奴再一次損失慘重，傷亡2000餘人，且鞮侯單於決定撤軍。但這時候，李陵軍中出現了叛徒，出賣了整支軍隊。叛徒告訴且鞮侯單於，李陵率領的軍隊傷亡很大，箭已經快用完了，隻要繼續追擊，一定可以取得勝利。單於得到了有利的情報，更緊追不舍。匈奴的兩支隊伍越過李陵軍隊，截斷了李陵向前去的道路，並且阻斷了他們的退路，匈奴箭如雨下，大喊大叫要漢軍投降。李陵不斷鼓舞士兵的鬥誌，堅持戰鬥，沒多久箭用盡了。李陵下令放棄車輛輜重，所有兵士徒步前進，他所率領的部隊進入鞮汗山（蒙古譜顏博格多山），被匈奴兵堵住穀口。到了半夜，李陵下令士兵擊鼓突圍，可鼓已經破裂，根本不能發出聲音。李陵命兵士朝四麵八方衝出去，這樣就可以分散匈奴的注意力。他同另一位將軍韓延年騎著馬，帶領親軍十餘人，向嶺南突圍。匈奴兵像潮水般湧來，最終，韓延年中箭而亡，李陵被活捉。他們兵敗的地方離漢朝邊境隻有百裏。他的部下有四百人突出重圍。
李陵率領孤軍轉戰千裏，傷敵無數，僅殺傷的匈奴騎兵就有一萬多人。遠射兵器弓、弩在此發揮了極大的作用。這次戰役運用的戰術和指揮方法都是成功的，可以說雖敗猶榮。
西漢大將李廣利
公元前98年，大將李廣利、韓說、公孫敖，分別率軍出朔方（內蒙古杭錦旗北）、五原（內蒙古包頭）、雁門（山西右玉），三路大軍再次對匈奴汗國發動攻擊。匈奴早已得到了消息，於是向漠北撤退，三路大軍都無功而返。公元前90年，匈奴向漢朝發起進攻，“複入五原、酒泉，殺兩部都尉”。作為反擊，李廣利再次出征，兵敗被俘，對匈奴的軍事反擊又一次受到挫折。