各部人選決定後，教育總長蔡元培因久居歐洲，對國內教育情形異常隔膜，特請蔣維喬幫助。二人並偕另一會計兼庶務職員，於1月4日晚上到達南京，住在一小旅館中。5日，蔡元培正式就職，出席臨時政府首次國務會議。會後，蔡元培往謁孫中山，請示教育部辦公地點，孫回答說：“辦公房屋要你自己去找。”連日奔走，一無辦法。適遇江蘇都督府內務司長馬相伯，就商借碑亭巷內務司樓上空房三間作為辦公處，隨即遷入。其簡陋情形，可想而知。
1月19日，教育部正式成立，當時全國各地仍然十分混亂，南北議和正在進行，清帝仍未退位，臨時政府的政令未能有效推行。在這種情形下，蔡元培踏出了民國教育的第一步。
蔡元培自從四十五歲起，回國擔任教育總長，後在北洋政府時代，又以國民黨員的身份留在北京，擔任北京大學校長。他一生最主要的貢獻就是在北大校長的任內，其所樹立的北大民主校風，源遠流長，影響巨大。
北大作為五四運動的震源地，作為新中國的發祥地，對近代中國的影響是不言可喻的。“北大精神”就是“蔡元培精神”，這位北大之父，逝世於1940年，享壽七十二。他在辛亥革命前的生涯，簡直是中國黎明前的奮鬥紀錄。他是從新舊過渡時期走過來的典型人物，他的言行典範和偉大的人格，感人至深，於今沒有任何人會發生疑問。吳敬恒曾說：
蔡先生平時待人，對好人沒有不尊敬，對壞人，也沒有不寬恕。這個人隻要有一點可取之處，總是待他很好。他惟一的誌願，一定要盼望中國出些了不得的大學問家。因為他抱了這種誌願，以前有了許多當仁不讓的事。
對於蔡元培的人格，吳敬恒也說：
蔡先生之為人，真是所謂“君子和而不同”，他和哪一個人都很和氣，然而他有一個“自己”。絕不是因為做人和氣，就會人雲亦雲。蔡先生所到之地，誰和他相處，都像從前人交了程明道一樣，如坐春風之中。不過雖坐春風之中，很感到有一種嚴肅之氣。如果我們以之比古人，蔡先生很像周公，“不驕不吝”、“一沐三握發，一飯三吐哺”。什麼事情，也是“仰而思之，夜以繼日，幸而得之，坐以待旦”。儼如周公風度。
吳敬恒說蔡元培，在做人的態度上，對自己是“不驕不吝”，對人是“和而不同”，隻要這個人有一技之長，沒有不取其長，絕不問其短處如何。然而他無時或忘的，就是他自己的主張：鼓勵造就大學問家出來。這有一個實例可以拿來佐證。
五四時期，新舊文學的論爭，白話文言的抗拒，兩派人士都服務於北大。胡適、陳獨秀的提倡白話文派，和提倡文言文的林琴南、嚴複，都在北大教書。當時的校長就是蔡元培，他雖然傾向於革新的、進取的事物，但認為這幾位老古董的確有一技之長，也就延聘他們在北大任教。所以說，蔡元培在北京大學擔任校長時期，不問這個人有辮子沒有辮子，隻看他有沒有學問，隻要有一點長處的人，他沒有不器重他的。這種態度，就是所謂“尊賢而容眾，嘉善而矜不能”。
元培先生的偉大誌願，就在於他一生想為中國造就人才，他一生走的路就是教育愛國大道。無怪乎他所創辦的第一所女校，取名為“愛國女學校”，他所設立的第一個學會，取名為“中國教育會”。他教育不忘愛國，愛國不忘教育。