早在東漢初年，麵對西羌翻過長城，侵入涼州，朝堂上的南陽勳貴集團就建議放棄涼州，雖是關中人卻紮根於涼州的名將馬援上書堅決反對。
好在此時尚處於東漢王朝的上升期，漢光武帝令馬援率兵平定羌亂。
漢安帝永初年間（107~113年），東漢國勢轉衰，隨著羌亂愈演愈烈，出身關東豪族的朝臣龐參屢次建議放棄西域，被西州士大夫恥笑。
龐參以國用不足為由，說動出身關東的大將軍鄧騭（鄧禹之孫）放棄涼州，仍被出身西北豪族的朝臣駁回。
永初五年（111年），先零羌自並州攻入河內，距首都洛陽僅一河之隔，東漢朝廷大震，決議放棄隴西、陝北諸郡，遷民入內地。
涼州百姓安土重遷，不欲離鄉，當地官吏就毀壞他們的農田、房屋，逼他們走人，導致大批百姓死於道路，幾乎激起大規模民變，加上西北豪族強烈反對，不得不中止。
中央不可靠，涼州人隻能靠自己，馳騁疆場，保衛家園。
東漢後期漢順帝、漢桓帝時期，涼州豪族中同時出了三大名將，即皇甫規（字威明）、張奐（字然明）、段熲（字紀明），號稱涼州三明，在對羌戰爭中取得重大勝利，段熲甚至對羌人實行中國史上少有的種族滅絕政策，一時鎮壓了羌亂。
不過，隨著東漢政治在腐敗的道路上一路狂奔，漢靈帝時爆發了黃巾起義，雖然很快被鎮壓下去，但是人心思亂，邊疆不穩，涼州再度爆發羌亂，而且還有涼州漢人豪族參與。東漢政府派出善戰的皇甫嵩、孫堅、董卓，依然無法平定。
出身關東的司徒崔烈再次建議放棄涼州，涼州豪族傅燮怒不可遏，當場痛斥：
斬司徒，天下乃安！
最終，在傅燮的推動下，東漢組織涼州殘餘的政府力量，由涼州刺史耿鄙統帥平叛。
耿鄙是關東巨鹿耿氏，任用奸吏荼毒涼州，出征途中，擔任別駕從事的涼州豪族舉兵嘩變，殺死耿鄙。
傅燮以寡兵死守漢陽，壯烈戰死，東漢王朝對涼州的控製徹底失去。
而這次他們的對手不再是先零羌或者燒當羌的野人酋長，而是涼州的漢人名士韓遂及其手下的漢羌聯軍。
至此，涼州心向中央的豪族基本死絕或者客死他鄉，剩下的半因羌族脅迫，半對朝廷絕望，毅然決然的與叛羌合作，不但割據涼州，還進而率領他們攻擊長安，與漢朝為敵。
涼州豪族之所以與東漢政府決裂，裏麵有長期的積怨與複雜的原因。
兩漢為了防止地方官與當地勢力結合，形成割據，設計了任用外地人擔任地方官的製度。
但在其他地區，有時還會選文化差別不大的鄰郡人為官，在涼州則為了防範武力強大的涼州豪族，有意使用關東地區的人當地方官。
這些人家業遠在千裏之外，麵對羌族進逼，為了保自己安全，就建議放棄涼州，把居民內遷，施政時也往往貪殘不顧後果。
涼州豪族對他們恨之入骨，對他們背後的東漢政府也頗多不滿。
可以說，涼州之所以會變成涼州人的涼州，當時漢朝的統治者與關東豪強世家有推脫不去的責任。