自此之後，整個西域南北道完全隸屬於匈奴統治之下，而匈奴複得憑借西域的人力和物力，作為南侵大漢的後方。
明帝時，南匈奴內附，大漢政局穩定、經濟恢複，遂轉守為攻，進擊北匈奴。竇固、耿忠率軍自涼州出酒泉塞，擊破呼衍王，占領西域門戶伊吾盧，設宜禾都尉，留下軍隊屯田駐守。次年，竇固、耿秉進攻最近的車師後部，後王投降；車師前王為後王之子，亦率眾投降。
至此，北匈奴勢力退出山東麓，大漢恢複了西域都護，分駐車師後王部金蒲城和前王部柳中城，恢複通往西域的通道。
不過此時恢複的西域都護不過是前漢都護府最東麵的一部分，仍有大部分在匈奴監護之下。於是，竇固派遣假司馬班超出馬了，讓他聯絡西域各地的君長，使他們親漢，而不被匈奴所利用。
班超收複西域之初，沒有統軍，隻帶了吏士三十六隨從，先到南道鄯善國。鄯善王開始對班超禮敬甚備，後來突然怠慢。班超判斷是北匈奴派使者來了，遂連夜用火攻突襲之計消滅了匈奴使者，持其頭以示鄯善王，鄯善懼怕，臣服於漢。
班超因降服鄯善有功，升為司馬，複受命向西到於闐。此時於闐是南道親匈奴勢力，於闐王對班超禮意甚疏，並且聽信妖巫的話，索取班超的馬以祀神。班超佯許之，要巫自來取馬。及巫至，超即斬其首以送於闐王。於闐王震懾於班超在鄯善的威名，乃殺匈奴使者而降漢。
而後班超又繼續沿著南道向西到疏勒。疏勒王兜題是龜茲所立，非本國人，是北匈奴的黨羽，在匈奴的支持下，殘酷壓迫疏勒人。班超掌握了這個情況，派使者出其不意地將兜題抓獲，另立疏勒前王之侄忠為王，解除了龜茲對疏勒的奴役，於是疏勒也歸附東漢。
至此，中斷了六十多年的絲綢之路恢複了南道。
奴失去西域，勢所必爭。永平十八年三月，北匈奴發動騎兵二萬，跨過山反攻車師，包圍金蒲城和柳中城。
同年，漢明帝去世，北道焉耆國乘漢朝大喪的機會，攻殺西域都護陳睦。而龜茲、姑墨等國也屢屢發兵進攻疏勒，班超與疏勒王忠互為犄角，首尾呼應，在盤橐城據守。北匈奴又策反車師國，戊己校尉耿恭也被圍困。
次年，也就是建初元年正月，新繼位的章帝派耿秉屯兵酒泉，發張掖、酒泉、敦煌三郡兵及西域鄯善等地兵出援，會師柳中，大敗車師和北匈奴，車師複降。
但由於當年武陵、益州叛亂頻發，地震等災連連，次年燒當又生羌亂，西域偏遠，大漢無力固守車師，最終決定放棄西域，於是撤銷都護和戊、己校尉，撤退伊吾的屯田兵，詔令滯留西域的漢人歸國，班超也在其中。
大漢從西域撤退，南道諸國驚恐，懼怕北匈奴卷土重來進行報複。當班超奉命準備返京時，疏勒、於闐懇切慰留，疏勒都尉黎弇竟至引刀自殺。班超行至於闐，於闐王侯以下皆號泣，竟至互抱班超的馬足，不讓他走。
班超知道南道一些地區，可以信用，乃決心留駐西域，勒馬回轉，重返絲路西端南北兩道交彙的疏勒國。
此時疏勒有兩座城在班超走後，重新歸降龜茲，並且與尉頭國聯合，意圖造成大亂。班超逮捕反叛首領，又擊破尉頭國，斬殺了六百於人，再定疏勒。
當時西域北道諸國隸屬於匈奴，南道則大多數服從大漢。而北道又以龜茲勢大，南道疏勒與於闐之間的莎車投靠了龜茲，從疏勒向東通往大漢內地的道路被切斷，因此班超決定首先從疏勒附近排除匈奴勢力的威脅。
建初三年，班超聯合南道疏勒、於闐、康居、拘彌等國一萬多士兵攻破姑墨國，斬殺七百人，將龜茲孤立。
建初五年，班超上書章帝，大漢先後發弛刑、義從一千人，士兵八百人，分別由徐幹、和恭率領赴西域支援班超。
元和元年，班超發疏勒、於闐兵進攻匈奴在南道的羽翼莎車。莎車賄買疏勒王忠，忠背叛班超。
班超改立府丞成大為疏勒王，調集兵力進攻忠，康居國派精兵幫助忠，班超以錦帛賄買康居姻親大月氏，勸康居王罷兵，康居王罷兵，把忠也帶了回去。
元和三年，忠從康居王那裏借了一些兵馬，與龜茲勾結密謀，派人向班超詐降，班超看穿了他的詭計，將計就計，答應他投降。忠大喜，輕裝簡從來見班超。班超為他舉辦酒宴，在宴席中，班超命人斬殺忠，又乘機擊敗他的部眾。
元和四年，班超發於闐諸國兵二萬五千人複攻莎車。北道龜茲王發溫宿、姑墨、尉頭五萬人救援。
敵強我弱，班超決定運用調虎離山之計。他召集將校和於闐國王，商議軍情，詐作各自撤退，又偷偷囑托人故意放鬆對龜茲俘虜的看管，讓他們逃回去報信。龜茲王聞訊後大喜，率一萬騎兵在西邊截殺班超，派溫宿王率領八千人在東邊阻擊於闐。