由於此時河西走廊的大多數州縣已經處在張義潮軍的控製之下，所以這一次的信使團出使長安的行程十分的順利。唐宣宗接到瓜、沙11州圖籍和張義潮的捷報後，特下詔表揚張義潮等人的忠勇和功勳，詔令說：張義潮“抗忠臣之丹心，折昆夷之長角。竇融河西之故事，見於盛時;李陵教射之奇兵，無非義旅”。11月，唐王朝於沙州建立歸義軍，統領瓜沙等11州，授張義潮歸義軍節度使、11州觀察使，管內觀察處置，檢校禮部尚書，兼金吾大將軍，食邑2000戶，實授300戶。拜李明達為河西節度衙兼監察禦史，拜李明振為涼州司馬檢校國子祭酒，禦史中丞，授吳安正為武衛有差。而作為人質留在長安的張義潮兄長張義潭則被授為金吾衛大將軍。
隨著瓜、沙、肅、甘諸州的收複及沙州歸義軍的建立，吐蕃軍隊節節敗退，最後集中於姑臧（涼州）。涼州是北朝、隋唐以來的河西重鎮，唐朝前期一直是橫斷吐蕃和突厥的河西節度使所在地。吐蕃統治時期，又是統轄河西東部的大軍鎮駐地。如果涼州仍在吐蕃手裏，那麼張義潮所提出的收複河西東部及隴右數郡就是一句空話。因此,為了有效地控製河隴地區，張義潮便從大中十二年（公元858年）八月率軍開始了他東征涼州吐蕃的偉大壯舉。當然此時的涼州已經聚集了大批的吐蕃軍隊，另外還有河西隴右地區敗退至涼州的吐蕃軍，軍力十分雄厚，這導致了涼州戰役變得極其艱難。
前麵已經說到吐蕃在河西倒行逆施，不但導致了唐人的憤怒，就是吐蕃人也對統治者極為不滿。而歸義軍建立之後秉承大唐傳統，對各族人民一視同仁，有力地團結了在河西走廊的各族人民。而這支東征軍由漢、吐蕃兩族士兵組成，共計7000名士兵。這是一次空前激烈的戰鬥，歸義軍“分兵兩道，裹和四方。人持白刃，突騎爭先。須臾陣和，昏霧張天。”兩軍對陣之時，歸義軍人人置生死於度外，“列烏雲之陣，四麵急攻，蕃賊糜狂，星分南北。”在血腥的死鬥中，大唐精神重新煥發了光彩，吐蕃軍終於支撐不住，“漢家持刃如霜雪，虜騎天寬無處逃，頭中鋒矢陪壟土，血濺戎屍透戰襖”。漢軍得勢，押背便追。不過五十裏之間，殺戮橫屍遍野。”吐蕃軍雖然遭到很大的打擊，但是畢竟是強悍的敵人，歸義軍人數少，也沒辦法一時全部消滅，於是這場殘酷的戰爭足足拉鋸了三年。
經過三年的血戰，鹹通二年（公元861年），張義潮終於一舉攻克了涼州。張義潮收複涼州後，即表奏朝廷。於是，“河隴陷沒百餘年，至是悉複故地”。鹹通四年（公元863年）唐王朝複置涼州節度使，統領涼、洮、西、鄯、河、臨六州，治所在涼州，由張義潮兼領涼州節度使。從此,河西走廊又暢通無阻。當世之時，世人寫下這樣的詩句來讚揚張義潮：“河西淪落百餘年，路阻蕭關雁信稀。賴得將軍開舊路，一振雄名天下知。”
在之後的幾年時間中，張義潮以瓜州、沙州為根據地，對外征討，擴大戰果，鞏固歸義軍政權對河西的統治。當時，河西地區的形勢還是相當複雜：南麵的吐蕃還在伺機卷土重來；北麵的回鶻也在覬覦著河西這塊富庶之地。另外，吐蕃國內，自“尚恐熱作亂，奴多無主，遂相糾合為部落，散在甘、肅、瓜、沙、河、渭、岷、廓、疊、宕諸州之間，吐蕃微弱者反依附之”。他們糾合在一起，大肆劫掠河西各地。
張義潮在基本沒有中央政府軍隊幫助的情況下，進行了一係列戰役。《張義潮變文》直接記述了大中十年（公元856年）至十一年間的三次戰役：第一次是吐穀渾王進犯沙州，張義潮出兵討伐，兩軍在西同附近相遇，張義潮首戰破敵，土穀渾王敗逃，張義潮率軍乘勝追擊1000餘裏，並大獲全勝，活捉土穀渾宰相3人，斬首示眾，而後全軍高唱《大陣樂》，凱旋而歸；第二次是納職縣回鶻、吐蕃抄掠伊州，張義潮奔襲，回鶻人被打了個措手不及，沙洲軍大獲全勝；第三次是叛亂回鶻劫奪唐朝冊立回鶻使王端章，張義潮聞知大怒。由於下文殘缺不全，不知結局如何。由此可知，張義潮為了抵禦周邊少數民族統治者的騷擾、劫掠，仍然進行著非常艱巨的鬥爭。《張義潮變文》中所說義潮“朝朝秣馬，日日練兵,以備凶奴，不曾暫暇”，就是當時實際情況的真實反映。鹹通七年（公元866年）十月，“拓跋懷光以五百騎入廓州，生擒論恐熱，先刖其足，數而斬之，傳首京師”，其餘眾逃奔秦州，途中又遭到了尚延心的襲擊，“吐蕃自是衰絕”。河隴肅清，使唐王朝無西顧之憂。至此，河西地區初步形成了統一局麵，“西盡伊吾，東接靈武，得地四千餘裏，戶口百萬之家，六郡山河，宛然而舊”。唐王朝的勢力，已達隴右諸地。
正是張義潮率領的沙州起義及其戰果的不斷擴大，河西地區才得以克複，使“百年左衽，複為冠裳；十郡遺黎，悉出湯火”。對於他在河西重振大唐聲威的業績,人們給予了高度的評價:“坐籌帷幄之中,決勝千裏之外,四方獷悍,卻通好而求和;八表來賓,列階前而拜舞。北方獫狁,款少駿之蹄,南土蕃渾,獻昆崗之白璧。”堪稱英雄蓋世之功!