元憲宗九年(1259年)，蒙哥大汗死於軍中。在圍繞大汗一位的激烈爭奪中，忽必烈在郝經、張文謙、商挺、廉希憲等人的出謀劃策下，抓住時機，先發製人，擊敗了阿裏不哥一派，登上了大汗的寶座，建元中統(1260年)。
忽必烈即位後，即向僧子聰、史天澤、許衡等請教如何治理天下統禦民眾，他們參照古製舊典，根據現實的需要，提出一整套有關國家機構和官職製度的設想。原來，蒙古自元太祖成吉思汗以來，諸事草創，設置官職、機構非常簡單。位置最高的是斷事官，居於三公之上，丞相稱作“大必闍赤”，掌握軍隊的隻有左右萬戶。後來仿效金朝的製度，設立了行省以及元帥、宣撫等官職。這次，忽必烈批準了僧子聰等人的設計，設置了總理政務的中書省、掌管兵權的樞密院、負責官員升降的禦史台；地方上則設宣慰司，隸屬於中書省，下轄路府州縣，此外還設有隸屬於禦史台的提刑按察司。這些機構都“官有常職，位有常員，食有常祿”，元朝一代的機構、官職從此才開始齊備了。至元八年(1271年)，忽必烈還采納僧子聰的建議，把“大蒙古國”改為“大元”。這一新的國號取自《易經》“大哉乾元”的含義，意思是國土遼闊，祚運無邊。
(《元史·世祖紀》等)
漢人為官
元朝初入中原，以遊牧民族統治中原大地。很多蒙古貴族主張擄掠，甚至主張以中原沃土為牧場，進行種族歧視，而元世祖忽必烈等人則堅決主張吸收漢族文化，以儒術治國。高智耀和竇默這樣的漢族儒士，在元世祖受到極大重視。
高智耀是河西人，世代在西夏做官，夏被滅國後隱居在賀蘭山。元太宗(窩闊台)訪求河西世家賢能子弟時，眾人都推舉高智耀，就召見準備起用他，但他推辭不仕。
蒙古皇子闊瑞鎮守西涼時，把所有的儒士都貶為隸役。高智耀就到元府說儒者向來受到文化尊重，現在與小廝雜役同等對待，不合道義，請求廢除此令。皇子聽從了他的建議，要上奏請他做官，他還是不幹。元憲宗繼任，高智耀入見說：“儒者所學的是堯、舜、禹、湯、文、武之道，自古治理國家者，采用了此術就天下安定，否則就天下大亂，培養這些儒生就是要派用場的。應該免去他們的徭役而重用他們。”皇帝問：“儒家與巫醫之術相比你看怎樣呢?”他回答道：“儒家用綱常治天下，豈是方技所比得上的。”憲宗說：“很好，在此之前從來沒人告訴過我這些。”於是下詔免除天下儒生的徭役。
元世祖沒繼位時，已聽說了高智耀的賢明，等到即位之後召見他，他又大談儒術對國家治理有用，反複與皇帝辯論。世祖覺得他的話有理，就給他鑄印授官，命免除徭役的儒戶們都受他的轄製。當時淮、蜀等地遭到俘虜的儒士，都被貶為農奴，高智耀上奏說：“以儒生為奴仆，古來從未有過，陛下現在號稱以古道治國，應該免除此法令，用以號召天下。”世祖以為有道理，就拜他為翰林學士，命他到各郡縣去識別選拔儒士，得到幾千人。當時的蒙古貴族大臣有的非難他選人過濫，皇帝責問他，他回答說：“士，譬若金子，顏色有深有淺，不能說它不是金子；人的才藝有深有淺，難道可以說他不是士嗎?”世祖很高興，更加寵信倚重他。高智耀又說：“國家初創，綱紀不完備，應該仿效前代，設置禦史台來糾察監肅官吏。”至元五年(1268年)，就設置了禦史台，就是采用了他的建議。
高智耀後來被提升為西夏中興等路的提刑按察使，這時西北蕃王派使者到朝廷來報告說：“我們向來所用的舊俗與漢人不同，現在留在漢人地方，建設都邑城廓，設立禮儀製度，開始行使漢法，但過去的漢法究竟是什麼樣子的呢?”元世祖召求可以解答西北蒙古問題者，高智耀入朝，請求西行治其國，世祖問他的計劃，他都一一對答，皇帝認為很妥當，即日就派遣他上路了。但是剛走到上京，就一病不起，世祖很震驚，也極為哀傷。
元世祖對儒學和儒士的重視，沒即位時就開始了，廣平(今河北)人竇默早年受教於伊、洛性理之學，與姚樞、許衡在大名(今河北大名)隱居講學授經，非常有名。忽必烈就派人去請他，他隱姓埋名不見，使者托人往見，穿便服跟蹤他，他才不得已出來受命。忽必烈問他治國之方，他用三綱五常相對，三次召見相談，他都說得讓忽必烈稱意，就讓他不離開左右，隨時備用。元世祖問他當世誰通曉治國之道，他推薦姚樞，立即就召用了姚。
不久就命皇子真金跟竇默學習，並賜給他玉帶釣，說：“這東西是宋朝宮內舊物，你是舊朝之人，配戴它正合適。而且這可以使我兒子見到它就像見到我一樣。”不久竇就南歸，忽必烈在大名、順德等地給他賜有田宅，給以賞賜。