西漢武帝時期，漢王朝經過文景之治，國力日漸強盛，打擊匈奴，打開西域通道的時機已經成熟，於是漢王朝便作出策動西域諸國與漢朝聯合，共同打擊匈奴的計劃，首先派遣張騫前往此前被匈奴冒頓單於逐出故土的大月氏。因為烏孫和大月氏原來是在包括蘭州部分地區的甘肅河西走廊，它被匈奴驅逐出去後，遷至中亞地區，漢武帝要聯合烏孫、大月氏打匈奴，就是要采取兩麵夾擊戰略，為了這一政治目的，派張騫西去。建元二年（前139年），張騫帶一百多隨從從長安出發，途中被匈奴俘虜，遭軟禁長達十餘年。逃脫後繼續西行，先後到達大宛國、大月氏、大夏。張騫這次西行沒有達到預期的目的，原因是當時月氏西逐大夏人，占領了媯水以北地區，一方麵是那裏土地肥沃，適於農耕；另一方麵是受希臘文化影響，已由遊牧過渡為農牧結合的定居生活，所以已無仇胡之心而不願回歸。張騫回國後，向漢武帝詳細報告了西域諸國的情況，包括各國的風土人情、實地物產等等。這個報告對漢武帝及漢政府了解西漢以西的情況非常重要，對漢武帝下決心通西域起了很重要的作用。範文瀾先生在他的《中國通史簡編》中說：“張騫生還，帶來了有關西域諸國的新消息，從而促成了東西文化的交流，他的生還，是人類曆史上一件值得紀念的大事。”所以漢武帝後來就決定通西域，派兵到西域去，最後統一了西域。
這是張騫第一次出使西域各國，史書上把他的這次西行看作是空前的探險，因而譽為“鑿空”，所謂“鑿空”，即探險的意思。自從張騫第一次出使西域各國，霍去病西北斥逐匈奴後，漢王朝對控製西域的戰略目的發生了一些變化，即由當初單純為了製禦匈奴，變成既要製禦匈奴，又要“廣地萬裏，重九譯，威德遍於四海”。於是漢武帝於元狩四年（前119年），再次派遣時任中郎將的張騫出使西域，為斥逐匈奴作準備。張騫用四年時間先後到達烏孫國、大宛、康居、大月氏、大夏、安息、身毒等國。據有關史料記載，為了促進西域與長安的交流，漢武帝招募了大量身份低微的商人，利用政府配給的貨物，到西域各國經商。這些具有冒險精神的商人中大部分成為富商巨賈，從而吸引了更多人從事絲綢之路上的貿易活動，極大地推動了中原與西域之間的物質文化交流，同時漢朝在收取關稅方麵取得了巨大利潤。但是在這一時期，匈奴雖被斥逐，但並未消滅，仍不斷騷擾。為進一步加強對西域的控製，漢宣帝神爵二年（前60年），漢王朝在西域設立了西域都護府，直接管轄西域，從此，絲綢之路開始進入繁榮的時代。
絲綢之路就其主要線路來說，有北、中、南三條道路，經過蘭州的是絲綢之路中路的中段。西漢時屬隴右道中的關隴道，這段道路是聯接關中和隴右的交通要道。關隴道自西漢京都長安（東漢時為京都洛陽）起，至甘肅中部地區的黃河岸邊諸地，分為蕭關道和關隴道。關隴道東起縣，接回中道，西經隴關，越隴山西南行，經清水、上邽、冀縣，至隴西郡治狄道，然後由狄道北行，至金城過黃河到河西。或者由狄道西行至枹罕，西北行至允吾過黃河，再北行至令居，西行溯湟水至臨羌，至河西走廊。
東漢時，絲綢之路經過蘭州的道路有關隴道與略陽（今甘肅秦安縣東北）道兩條，略陽道是東漢光武帝建武二年（26年）來歙征討隗囂在隴山中開出的一條從隴關直通略陽的通道。由略陽道到金城縣，需要渡過黃河，渡河地點在現在的西固地區，具體大約有三處，一是位於今西固區西沙黃河大橋附近的金城渡，二是位於今西固區河口一帶的新城津，三是位於今西固區八盤峽一帶的八盤渡。
到魏晉南北朝時，中國處於內亂狀態。由於內患的不斷增加，北方遊牧民族紛紛南下牧馬，在黃河流域建立了許多遊牧民族政權，導致了絲綢之路三絕三通的出現。西方在公元395年，也就是東晉孝武帝太元二十年，羅馬帝國也分裂了，波斯也衰落了。所以在這一時期，絲綢之路進入比較簫條的時期。這一時期，絲綢之路經過蘭州的路段基本走向為出洛陽或者長安，經雍州、秦州、隴西等地進入蘭州，然後在蘭州渡過黃河西去。
隨著中國進入繁榮的唐代，西北絲綢之路再度引起了中國統治者的關注。為了重新打通絲綢之路，唐王朝借擊破突厥的時機，一舉控製了西域各國，並設立安西四鎮作為中國政府控製西域的機構，新修了唐玉門關，是中國境內連通絲綢之路上的重要關隘之一。在古代中國，經營西域最盛的就是唐朝，唐王朝在控製西域各國和中亞的一些地區，並建立了穩定而有效的統治秩序後，不僅對整個新疆地區進行直接統治，而且在中亞地區直到波斯的東境，也設立了16個都督府，進行名義上控製。當時西域小國林立的曆史基本解除，唐朝的交通線路，交通組織，又都是最完備的，已經發展到了一個非常高的階段，因而使絲綢之路更為暢通。新的商路支線被不斷開辟，從而使絲綢之路在唐代再度進入繁榮時期。