對於這個疑問，唐蒙一直保持到完成使命回到長安之後，又訪問蜀中來的商人。蜀商回答說：“枸醬出自蜀地，並非出自黔中，不過當地土人貪利，往往偷帶此物，賣給夜郎國人。夜郎是黔中小國，地臨柯江，和南越交往密切，由江上往來，所以枸醬才會在南越出現。現在南越屢出財物，要羈縻夜郎，讓他們成為役屬，不過要它甘心臣服，可不是什麼容易的事情。”
唐蒙聽了蜀商的話，茅塞頓開，原來是這麼回事啊，同時，一個大膽的冒險計劃在他的心中形成了。唐蒙把自己的主意立刻變成折子呈給劉徹。
這奏折千說萬說其實也就一個意思，巴蜀是塊肥肉，夜郎是個很好的吃肥肉的途徑。
對於能美餐一頓的事情，劉徹是從來不會拒絕的，他馬上批準了唐蒙的方案。漢武帝擢升唐蒙為中郎將，撥給他軍隊一千多人，令他帶著足夠一萬人使用的補給，從漢朝西南邊塞——巴郡的笮關（今四川省合江縣南）出發，深入這片蠻荒的地方。
終於，唐蒙翻山越嶺進入夜郎國境。
南夷部落約有十多個，其中夜郎最大。
夜郎這個國家的外交工作顯然沒有做好。多年與中原不通音信，夜郎王坐井觀天，還認為世界之上，他最大。這也就是“夜郎自大”那個成語的出處。
漢軍一來，夜郎和冉兩國一看情況不妙，馬上表示願意臣服於漢朝。
真是不比不知道，一比嚇一跳。
夜郎入朝之後，劉徹封為夜郎王。冉也不甘落後，就請漢武帝在其地設置官吏。
這裏，劉徹高高興興地封王，那裏的小國戰戰兢兢地等待。
劉徹坐不住了，立刻讓滇王入京朝見。滇王無奈準備入朝。
當時可沒什麼飛機，大家都是靠走路的，這個滇東北與漢境相接的地方有個勞深和靡莫互相依倚為援。要想過此路，留下買路財，他們阻攔滇王入朝，並多次侵犯漢朝的使者。
劉徹知道後勃然大怒。劉徹決定收拾這幫囂張的家夥。元封二年（公元前109年）的秋天，劉徹命郭昌和衛廣從巴蜀出兵擊滅勞深和靡莫，滇王一看這下也沒什麼理由不進朝了，於是隻好舉國降服，請劉徹在其地設置官吏。
劉徹的時候，對匈奴人采取了急風暴雨式的軍事行動，與匈奴人勾結的羌人也受到了衝擊。
劉徹下令對河西用兵，匈奴人受到沉重打擊，渾邪王和休屠王部眾的投降使得羌人和漢朝發生了直接的接觸。
劉徹派兵在河西驅逐匈奴的時候，也同時對諸羌施加了軍事壓力，逼迫他們向西遷移。由於匈奴渾邪王的內降和諸羌的西遷，使河西一帶成為真空。
劉徹召烏孫回河西故地的計劃落空之後，他為了加強在河西地區的邊防，就在河西先後設立了武威郡和酒泉郡，從此河西一帶正式成為漢朝的領土。漢武帝還不斷招募百姓和輸送罪犯到河西地區開墾荒地，發展生產。這為以後開通西域和繼續打擊匈奴創造了有利的條件。
劉徹在河西設置郡縣以後，西羌和北匈奴被南北隔絕，不得交通，這樣，兩者勾結對付漢朝已經特別困難了。
元鼎五年（公元前112年）九月，分布在今甘肅臨夏以西和青海東北一帶的先零羌和封養牢姐種羌盡釋前仇，結成同盟，再次與匈奴人相勾結，合兵十餘萬人，會攻漢朝的邊郡令居縣（今甘肅永登西北）和安故縣，包圍了槍罕（今甘肅臨夏東北），邊關告急。
劉徹派將軍李息、郎中令徐自為率兵十萬人，在元鼎六年（公元前111年）十月，出兵討伐。經過強硬的軍事行動，解開槍罕之圍。元鼎六年（公元前111年）十月，漢軍平定了諸羌的叛亂。
劉徹為了強化對羌人的管理與監視，在公元前111年，開始在羌人居住的地區設置護羌校尉，持節統領內附漢朝的諸羌部落。從此，青海東部開始成為我國的行政管理區域。
經過漢武帝的打擊，先零羌移居到西海、鹽池地區。漢武帝逐漸遷徙漢人充實河西的空地。後來到漢昭帝始元六年（公元前80年），又設置了金城郡，治所在允吾（今甘肅省永靖西北），原護羌校尉所轄的領地全部歸屬金城郡。
之後，劉徹在西南夷地區相繼做了大動作，建郡置吏，行使直接統治。元鼎六年（公元前111年）春，在且蘭置柯郡，以邛都為越郡，笮都為沈黎郡，冉為文山郡，白馬為武都郡；元封二年（公元前109年）秋，以滇、勞深和靡莫等小國的故地為益州郡，西南夷從此正式並入漢帝國的版圖。