進入夏商周時代，今蘭州地區屬羌、戎之地，奴隸製國家的文化、教育製度尚未影響到這裏。公元前221年，秦始皇統一六國，在全國推行郡縣製進行管理。公元前215年，蒙恬率軍數十萬，北擊胡，占領“河南地”（今內蒙古黃河以南至戰國秦長城以北地區），次年沿河設四十四縣，在今蘭州市東崗鎮附近置榆中縣，將蘭州黃河以南地區置於秦朝的統治下。
秦朝政府在文教方麵采取了有利於當時政治統一的政策，在全國範圍內實行“書同文”、“行同倫”、“設三老以掌教化”、“頒挾書令”、“禁遊宦”和“禁私學，以吏為師”等，在這些措施中，“書同文”、“行同倫”的工作，對於統一漢民族的共同心理狀態的形成，以及後世文化教育的發展起了積極作用；“頒挾書令”、“禁遊宦”和“禁私學，以吏為師”的政策，是秦朝為了禁止當時“以古非今”的現象，以便於推行各項統一的法令。雖然秦朝也注意到向人民進行教化工作，在每鄉設置“三老”以擔負教育責任，但是始終沒有注意到設立官學，對學校教育的作用認識不足，這是秦朝的一大失策，也是它失敗的原因之一。
西漢初年，蘭州地區的行政隸屬關係沿襲秦製。到漢昭帝時，為了抵禦匈奴的進攻，加強對羌人的控製，增設金城郡（郡治今青海省民和縣古鄯鄉），轄今蘭州市大部分地區。金城郡在當時具有重要的地位，尤其是漢武帝派軍擊破匈奴、開發河西四郡以來，金城遂成了漢朝經營河西與河湟地區的基地，隨著絲綢之路的開通和繁榮，金城在中西交通史上占有舉足輕重的地位。同時，由於金城地區介於中原與少數民族之間，是中原王朝聯係周邊少數民族的重要區域。在這裏，多民族文化的交往與衝突，構成金城曆史的一個重要內容。從教育發展的曆史來看，西漢以前，我國尚未形成統一的教育製度，自漢武帝時確立了“罷黜百家，獨尊儒術”和“興太學以養士”的文教政策，置五經博士，從而逐漸形成封建中央集權統一國家的教育製度：建立了學校係統，確定“六經”為主要教育內容，規定了選舉取士製度。這有力地推動了古代封建教育的形成，為後來曆代封建教育的發展奠定了初步基礎。由於曆代王朝的行政區劃很不固定，蘭州在各王朝時期的地位不盡一致，但在今蘭州地區，隻要設立過管轄機構或地方政府的朝代，都可上溯其地方學製及其實施情況。
自漢代實行獨尊儒術的政策後，逐漸建立了中央和地方的學校製度，無論官學和私學都得到較快發展。漢武帝時，鑒於蜀郡太守文翁興辦地方官學成績顯著，遂下令“天下郡國皆立學官”，但實際上地方官學還不普遍。漢平帝元始三年（3年）頒令天下立官學，郡國曰學，縣、道、邑、侯國曰校。校、學置經師一人。鄉曰庠，聚曰序，序、庠置《孝經》師一人。雖然各郡國設立學校的具體狀況缺乏明確的史料記載，但漢代地方普遍地設置學官，大致自此開始。從東漢時期頒布的一些詔令來看，漢代對地方學校從教師設置、教學內容、學校禮儀等方麵，都當作一項製度來貫徹執行，並取得顯著成效。
除了官學教育之外，漢代的私學教育也頗為繁盛，特別是東漢時期的私學相當發達。據《後漢書·儒林列傳》載：“自光武中年以後，幹戈稍戢，專事經學。自是其風世篤焉。其服儒衣，稱先王，遊庠序，聚橫塾者，蓋布之邦城矣。若乃經生所處，不遠萬裏之路，精廬暫建，贏糧動有千百。其耆名高義，開門授徒者，編牒不下萬人。”上述記載基本概括了東漢的私學動態。班固在《東都賦》中描述這時“四海之內，學校如林，庠序盈門，獻酬交錯”，當包括地方私學在內。據載，東漢順帝時，趙寬在金城郡浩亹縣設立私學，招收學徒，這是文獻中最早關於蘭州地區教育情況的直接記載。
魏晉南北朝時期，蘭州地區的曆史受到當時大動蕩和民族大融合背景的影響與製約。由於所處的重要戰略地位，蘭州地區成了各政權爭奪的重點對象，戰亂頻繁，略無寧日，從而使包括教育在內的蘭州曆史發展處於低穀時期。另一方麵，在不同時期進入蘭州地區的氐、羌、鮮卑等各族與漢族人民一起利用戰爭縫隙，共同開發蘭州，促進了多元文化的發展。魏晉南北朝時期，曾控製過蘭州地區的曹魏、後涼、南涼、北涼、西秦等政權，皆崇尚文教，倡導儒學，官學私學均得到一定程度的發展，文化教育曾有所興盛。同時，中原文化與西域文化均通過對蘭州地區的雙向影響，使得佛教文化、傳統文化都在這裏有了一定發展。但總體來看，由於爭戰不斷，政權更迭頻繁，正常的學校教育受到嚴重衝擊，地方學校的開設及其興衰情況往往差別較大，在甘肅境內的各郡中，河西、隴右諸郡的地方教育發展成就顯著，金城郡因其成為各政權爭奪的焦點，行政設置及郡址也多次變更，地方學校教育往往處於時興時廢的狀態。