小學和大學，究竟應該先整頓哪一個？
範源濂認為：小學沒有辦好，怎麼能辦好中學？中學沒辦好，怎麼能辦好大學？所以我們第一步，當先把小學整頓。
蔡元培認為：沒有大學，中學師資哪裏來？沒有好中學，小學師資哪裏來？所以我們第一步，當先整頓大學。
這是蔡元培出任民國教育總長之後，和教育次長範源濂關於小學教育與大學教育孰輕孰重的一次爭論。不可否認，蔡元培對高等教育有著特別的興趣和偏好，這是他特別關注高等教育的重要原因。但是，我們不能不看到，蔡元培在民國之初整頓高等教育的根本原因，還在於對高等教育重要性的理性認識。對此，曾被邀請到北京大學演講的梁啟超先生曾言：“一國之大學，即為一國文明幸福之根源，其地位之尊嚴、責任之重大，抑豈我人言語所能盡歟？”梁氏所言雖然過於誇大大學的地位，但是，從一個國家文明發展的長遠來看，大學的地位是不可取代的。
1912年5月，時任京師大學堂總監督的嚴複致信教育總長，要求把京師大學堂改名為北京大學，如此做的目的就是要進一步表明它是一所近代的高等學校，而不是新共和時期謀官者的樂園。此舉得到袁世凱的批準，國務總理唐紹儀和教育總長蔡元培分別鄭重地在文件上署名。自此，沾染陳舊封建習氣的京師大學堂經曆了華麗轉身，開始中國第一所現代意義上大學的艱難之旅。
京師大學堂創辦於1898年7月3日，由清光緒帝正式下令批準設立，屬於戊戌變法的“新政”產物。1897年，美國著名傳教士狄考文（1836—1908），起草了《擬請京師創設總學堂議》，然後以中國教育會的名義呈送總理衙門。第二年，總理衙門批準了這位傳教士的請求，清政府同意開辦京師大學堂。
作為我國曆史上第一所國立綜合性大學，學堂充斥著濃厚的封建教育思想。最初招收的學生大都是京官，因此，學堂裏的學生都被尊稱為老爺，而監督及教員都被稱為中堂或大人，儼然一個掛著學堂之名的朝廷衙門。由於京師大學堂是新式學堂，中國人缺乏普遍的管理經驗和西方知識，不得不求助於西方傳教士，聘請傳教士來學堂任教成為京師大學堂日常教學工作的重要內容。如此一來，中國封建式的領導管理和西方近代化的大學教育形成尖銳的矛盾，其混亂不堪可想而知。
就在京師大學堂開學儀式的當天，數百名被邀請來的中外嘉賓和教員親身體會了這種內在矛盾和混亂的荒唐：大學禮堂的主席台上高高懸掛著孔子畫像，在接下來的典禮儀式中，一群被聘請作為學堂教授的外國人，身穿教授禮服，鄭重地對著孔聖人畫像鞠躬致意。自鴉片戰爭以來，清人已經被西方堅船利炮嚇破了膽，隻看見中國人向外國人鞠躬的，還從沒看見外國人向孔子低頭的。眼前這群紅頭發藍眼睛的外國人恭恭敬敬地對著孔子畫像鞠躬，讓就座的中外嘉賓大跌眼鏡。僅此一點，就可以想象出最初的京師大學堂如何官僚封建與混亂。
京師大學堂的教育管理體製深受封建科舉製度的影響，清末推行的獎勵學堂科名出身的製度，導致學堂成為獲取功名的敲門磚。1915年，後來成為中國著名哲學大師的馮友蘭先生考取了北京大學哲學係，據他回憶：
當時北大的大部分學生和他們的家長，都還認為上北京大學就是要得到一個“進士出身”，為將來做官的正途。當時的北大學生都想著，來上學是為了混一個資格為將來做官做準備。北大無形中是一個官僚養成所。當時法科是一個熱門，因為人們認為上法科到做官是順理成章的，文科是一個最冷的冷門，因為人們都不清楚文科究竟是幹什麼的。
相比之下，在學堂當教員倒不如做學生有前途。例如，浙江舉人陳漢章學問淵博，京師大學堂想聘請他去任教，但是他聽說大學堂畢業就等於是翰林，寧願到大學堂做學生，以博取翰林之名，也不願意去大學堂任教。如此一來，教員們也懶得認真上課，要麼把以前的講義拿出來分發給學生，然後照著讀一遍，要麼頻繁請假，忙於外麵的營生。到了考試之時，誰也不願意、更犯不著得罪這幫官宦子弟，教員往往把考試範圍劃給學生，學生混個及格，教員落個好人緣，彼此都歡喜。
當時京師大學堂教員的不學無術，學生們的吃喝嫖賭，校風的敗壞虛浮，管理的混亂腐敗，可謂臭名昭著。1913年，後來成為著名學者的顧頡剛考入北京大學預科之時，對北京大學的烏煙瘴氣這樣描述：
學校像個衙門，沒有多少學術氣氛。有的教師不學無術，一心隻想當官；有的教師本身就是北洋政府的官僚，學問不大，架子卻不小；有的教師死守本分，不容許有新思想；當然也有好的，如教音韻學、文學批評的黃侃先生，教法律史的程樹德先生，但不多見。學生們則多是官僚和大地主子弟。有的學生一年要花五千銀元；當然，這樣的富豪子弟數量不多，大約不過兩三人。至於一年花千把銀元的人就多了，少說也有好幾十。像我這樣一年從家裏隻能拿二三百銀元來上學的，就是窮學生了，在學校裏簡直沒有地位。一些有錢的學生，帶聽差、打麻將、吃花酒、捧名角，對讀書毫無興趣。那時的北大有一種壞現象：一些有錢的教師和學生，吃過晚飯後就坐洋車奔“八大胡同”（和平門外韓家潭一帶）。所以妓院中稱“兩院一堂”是最好的主顧（“兩院”指參議院、眾議院，“一堂”指京師大學堂）。這種壞現象是從清末保留下來的。那時在學生中還流行一種壞風氣，就是“結十兄弟”。何謂“結十兄弟”？就是十個氣味相投的學生拜作兄弟，畢業後大家鑽營做官，誰的官大，其他九人就到他手下當科長、當秘書，撈個一官半職，“有福同享”。這個官如果是向軍閥或大官僚花錢買來的，那麼鑽營費由十人分攤。這樣的學校哪能出人才？隻能培養出一批貪官汙吏！蔡元培先生來長校之前，北大搞得烏煙瘴氣，哪裏像個什麼“最高學府”？
也許，顧頡剛對北京大學烏煙瘴氣的渲染，難免夾雜一些誇大之詞，但是，後來作為校長的蔡元培對北京大學不良學風的深惡痛絕，則是公允客觀的：
尤其北京大學的學生，是從京師大學堂老爺式學生嬗繼下來。他們的目的，不但在畢業，而尤注重在畢業以後的出路。所以專門研究學術的教員，他們不見得歡迎。
蔡元培將北京大學校風的腐敗歸結於前清遺留下來的科舉應試教育體製，這個認識是精準的。按照意大利著名學者維柯在《新科學》一書中的經典觀點，事物的起源決定了本質。京師大學堂在民國時期如此混亂腐敗，其本質是由於它是晚清政府在當時科舉考試製度盛行的現實背景下創立的，直到科舉製度廢除之前，京師大學堂都是官宦子弟進入上流社會的階梯。這樣的本質決定了重塑北大校風必須先從鏟除“科舉時代所遺傳之虛榮心”開始。
其實，針對北京大學痼疾進行改革治療，蔡元培並非第一人。作為民國成立後北京大學的首任校長，嚴複也發現了北京大學疾病纏身的嚴重現狀，為此，他給北京大學開出的治療藥方是用西方自由主義教育精神取代封建主義教育體製。在他任職北京大學校長期間，第一次把自由主義教育思想引進北大，他對原有“書院國子（學）之陳規”給予改變，將“經學”、“文學”合並為“文科”，增加了自然學科，明確提出大學的宗旨是“保存一切高尚之學術，以崇國家之文化”。
遺憾的是，北京大學的自由主義教育引起了北洋軍閥政府的強烈恐慌和不滿，對此采取嚴厲的打壓政策，以關閉北京大學相威脅。受到當時政治環境的強大壓力，嚴複被迫辭職。隨著這位著名學者的離去，北京大學剛剛燃起的自由主義教育之光隨即熄滅了。
1912年，馬相伯被袁世凱總統府聘為高等顧問，代理北京大學校長。這位在民國時代被尊稱為“國之大老”的傳奇人物，在任職演講中發表了“何謂大學”的經典觀點：
諸君皆係大學生，然所謂大學者，非校舍之大之謂，非學生年齡之大之謂，亦非教員薪水之大之謂，係道德高尚，學問淵深之謂也。諸君在此校肄業，須尊重道德，專心學業，庶不辜負大學生三字雲。
五年之後，馬相伯的學生蔡元培同樣以北京大學校長的身份，站在這裏的演講台上，發表了他對大學的看法：“大學者，研究高深學問者也。”這與馬相伯對大學的理解何其相似！但是，曆史讓後人記住的曆任北京大學校長中，隻有蔡元培才是永遠的北京大學校長。這自然有著合理的依據，因為無論是嚴複還是馬相伯，對北京大學的改造都是一種針對局部病灶的微創手術，雖然治療的手法正確、目標精準，但是，其結果隻能是讓病人活下去而並非痊愈，隻有蔡元培對北京大學的改造是全麵而徹底的。這與其說是民國的曆史成就了蔡元培，不如說是蔡元培對北京大學科學的治療方案成就了民國高等教育。
1916年6月，袁世凱暴亡，黎元洪繼任大總統。9月，尚在法國旅居的蔡元培收到北京政府教育總長範源濂邀請其歸國擔任北京大學校長的電文。接到電文後，蔡元培由法國馬賽乘船歸國，11月8日回到上海。12月26日，蔡元培出任北京大學校長，並於1917年1月4日到校就職。
曆史選擇了蔡元培作為民國教育總長，也注定了他與這座京師大學堂之間剪不斷理還亂的因緣。
1912年，蔡元培發布《大學令》，要求“大學以教授高深學術，養成碩學閎才，應國家需要為宗旨”，倡導高尚學術研究，為當時的高等教育明確了方向。易名後的北京大學，從第一任校長嚴複，到何燏時、胡仁源，乃至蔡元培辭職之後的蔣夢麟、胡適，都一本蔡元培《大學令》中的倡導高尚學術研究的宗旨。
當今人以崇敬之情仰視北京大學的時候，稍有曆史常識的人首先就會想到蔡元培。而蔡元培就任北京大學校長第一天的儀式，則已經被曆史定格為中國教育史上最經典的瞬間：
1917年1月4日，北京大學門口，全校校工們聚集在一起，恭恭敬敬地排隊等候新校長蔡元培上任，絕大多數人仰慕其大名，尚未見過其人，無不想借此一睹其風采。大家按照自己的想象，描繪著這位前教育總長、著名學者的模樣。不久，新校長來了。令眾人吃驚的是，這位新校長並沒有像此前的學校官員那樣高傲地享受眾人的膜拜，而是優雅地脫下禮帽，鄭重其事地向校工們鞠了一個躬。此後，他每天出入校門，校警向他致敬，他都脫帽還禮。此前的北京大學一直被稱為“官僚養成所”，蔡元培卻沒有把北大校長當成一個官職，其平淡低調的大儒風範，讓全校師生大為驚訝的同時，也給大家留下了非常深刻的印象。
入主北京大學之後，蔡元培整頓學風，消除積弊，短短數年時間，北京大學“學風丕振，聲譽日隆”。在蔡元培辭職後接任北京大學校長的蔣夢麟，非常欽佩蔡元培在北京大學的教育改革，他非常形象地將蔡先生出掌北大比喻為“在靜水中投下革命之石”。蔡元培能夠讓北京大學“化腐朽為神奇”而投入的“革命之石”，其中有幾點一直被後人稱讚：
其一是鏟除了封建科舉教育的遺毒，在學生中樹立求學不是為了升官發財的新風。從封建教育體製中走出來的蔡元培，深知舊學堂學生觀念上的腐敗低俗，認識到北京大學“著名腐敗的總因”在於學生觀念上的錯誤──他們進大學的目的完全不在於求學，而是將其作為升官發財的工具。因此，蔡元培提出“我們第一要改革的，是學生的觀念”。為此，他向北京大學學生提出一要抱定宗旨，為求學而來，而不是升官發財；二是砥礪德行，品行謹嚴；三是敬愛師友，以誠相待，互相勸勉。
其二是整頓學課，教授治校。蔡元培主持北京大學校長之初，發現學校“學課之雜亂”是聲名狼藉的一大原因，為此，他重新整頓學生授課內容，按照西方資本主義國家的大學授課模式進行課程改革，去除陳舊腐朽的非學問研究低俗課程。在學校管理上，蔡元培創造性地為後人提供了“教授治校”的模式。早在1912年10月，民國政府頒布的《大學令》裏就已經體現出這種現代化的大學管理模式。根據《大學令》，大學設評議會，以各科學長及各科教授互選若幹人為會員，大學校長可隨時召集評議會，自為議長。大學各科各設教授會，以教授為會員，學長可隨時召集教授會，自為議長。
蔡元培的“教授治校”政策有著多重的價值，一方麵，在學校內部，北京大學管理中的政治力量邊緣化，避免了校長獨斷專行，確保了有個性、有才華的學者在北京大學擔任教員的自由——這當然需要蔡元培具有驚人的雅量。1918年，蔡元培為了提升北京大學師生的道德修養，在校內組織了進德會，倡導加入的會員能夠拒絕嫖、賭、納妾等陋習，此舉得到校內廣大師生熱烈讚同，但是，師生是否加入進德會全憑自願，領導絕不勉強。當時在北京大學一向以作風狂放著稱的著名學者黃侃對此並不領情，他毫不客氣地退回了邀請其加入進德會的誌願書，並聲稱：“入會與否係個人自由。此時信向不出本心，則時守之不力，萬不敢自欺複欺。”對此，蔡元培非常尊重他的選擇，絕不幹涉。另一方麵，對校外而言，這一政策確保了北京大學不受當時政府過多幹涉和控製，獲得了寶貴的學術自由發展空間。
當然，蔡元培擔任北京大學校長之後，最為後人津津樂道的，還是他不拘一格聘請名家，並允許思想自由的教育觀念。
為了保證上課質量，蔡元培不拘一格聘請國內著名學者前來上課。他聘請教師的方法主要有兩個，一看學問，二看態度。前者注重教師的學術成就，後者關注教師對待學問研究、學生的興趣態度，不但對世界的科學取最新的學說，而且也要用新方法來整理它。北京大學在極短的時間內，迅速聚集了國內大批最有才華、最有個性、最為著名的學者。蔡元培不拘一格聘請教員的方式，以及允許不同思想流派交鋒爭鳴的包容自由態度，成為北京大學精神的文化符號。例如，蔡元培在成功聘請當時國內最著名的新文化運動主將陳獨秀等人的同時，又網羅了舊派人物辜鴻銘、劉師培等人，倡導“兼容並包、思想自由”，一直被譽為民國以來教育界的佳話。