王莽天鳳三年（公元16年），匈奴重新控製西域，內地與西域交通斷絕。東漢初，一些西域國家多次尋求漢朝的保護，請求重建都護府，但光武帝限於實力，一再拒絕，各國隻得降服於匈奴。永平十六年（73年），漢將竇固等率軍進攻匈奴，打通了與西域的交通線，竇固派班超出使西域。班超僅率吏士36人，但靠著漢朝在西域留下的影響和自己的勇敢智慧，成功地控製了鄯善（今新疆若羌一帶）、於闐（今和田市一帶）、疏勒（今新疆喀什市一帶）等國。第二年，竇固進攻車師。車師前王（都交河城，今吐魯番市西北）和後王（都務塗穀，今吉木薩爾縣南）投降，在斷絕了65年以後漢朝重新設置西域都護府，恢複了這一大片疆域。但北匈奴勢力依然強大，漢軍並沒有穩定的優勢，焉耆（今新疆焉耆縣一帶）、龜茲（今庫車縣一帶，匈奴所立）攻滅了西域都護陳睦，匈奴和車師包圍了戊己校尉（駐高昌壁，今吐魯番市東南）。章帝建初元年（76年），撤銷了都護府和戊己校尉。當時，漢朝的軍隊已全部撤回，章帝怕班超孤立無援，下令將他召回。建初三年又撤回了在伊吾（今哈密市西北）的屯田。班超離開疏勒時，舉國震恐，都尉黎弁說：“漢朝人使者拋棄了我們，我們必定會重新被龜茲消滅。”接著就拔刀自殺了。班超到達於闐時，王侯以下的人都號啕大哭，抱住他的馬腿不讓走。班超本來就不願無功而還，索性返回疏勒，利用漢朝的威望，運用靈活機智的策略，留在西域孤軍奮鬥，使依附匈奴的國越來越少，基本保持了天山南道的暢通。永元三年（91年），漢軍進至金微山（今阿爾泰山），大破北匈奴，北單於逃亡，北匈奴從此西遷。西域都護府再次恢複，駐於它乾城（今新疆新和縣西南大望庫木舊城），轄境與西漢時大致相同，班超出任都護。10年後，年近70的班超自覺“老病衰困”，思鄉心切，請求召回。永元十四年（102年）八月，這位在西域奮戰了31年、為維護漢朝疆域立下奇功的英雄回到洛陽，一個月後就因病逝世。
班超回內地時，繼任者任尚向他請教治理西域的經驗，班超說：“在塞外的官吏和士兵本來就不是孝子順孫，都是因為犯了罪才被押送來，或有過失才被調來。而本地民族與我們的習性不同，難以管理，容易鬧事。你的性情太嚴過急，水清無大魚，治理太嚴格了不能得到下級的擁護，應該放鬆簡易，寬恕小過失，管住大事就行了。”任尚心中不以為然，認為班超“所言平平”，沒有接受他的忠告，措置不當，激化了與各國的矛盾，受到各國攻擊，永初元年（107年），都護府又不得不撤銷，班超之子、軍司馬班勇與他的哥哥班雄奉命接應都護和駐西域的士兵返回。
漢朝的撤退使殘留在阿爾泰山的北匈奴卷土重來，占領伊吾，寇掠河西。一些西域國再次尋求漢朝的庇護，大臣們認為應該關閉玉門關，放棄西域。執政的鄧太後召見班勇，經過與大臣的激烈辯論，他恢複西域建置的建議被采納。延光二年（123年），朝廷任班勇為西域長史，駐柳中（今鄯善縣西南），長史府的職能與都護府相同。班勇擊退匈奴的殘餘勢力，使漢朝再次恢複了對西域的統治。但與西漢後期相比，漢朝對西域的控製有所削弱。由於烏孫已成為獨立政權，蔥嶺（帕米爾高原）以西地區也脫離了漢朝的統治，漢朝的西北界退到了今天山山脈西段以南。東漢末年，漢朝已無力控製西域，長史府不複存在。
山水畫鑒賞經過長期開拓，西漢的疆域向西擴展到了今巴爾喀什湖和帕米爾高原，東至朝鮮半島中部，西南據有今雲貴高原全部和緬甸的一部分，南邊達到今越南中部，成為中國曆史上疆域範圍最大的王朝之一。盡管東漢的疆域比西漢時有所收縮，但經過秦和西漢的開發，邊疆地區基本得到穩定。東漢以後，盡管中原王朝的疆域時有盈縮，內部時有分裂，但這一範圍始終是中國的主體，說明它的形成符合曆史發展的規律。
秦漢疆域的形成是春秋戰國以來，各國、各族人民長期交往，經濟、文化的交流日益密切的結果；是生產力發展，人們克服地理障礙的能力的加強，交通條件得到不斷改善的結果；漢朝強大的軍事實力和大力開拓的決策也是不可或缺的因素。漢朝的疆域構成了以後曆代中原王朝疆域的主體，成為中國統一的地理基礎，這絕不是偶然的。