民國成立後，46歲的蔡元培就任教育總長。7月，為抵製袁世凱專製獨裁，他向袁當麵堅辭。袁世凱勸道：“我代四萬萬人堅留總長。”蔡元培脫口而出：“元培亦對四萬萬人之代表而辭職。”袁世凱見他去意堅決，隻得作罷。
袁世凱一命嗚呼後，北洋要收拾爛攤子，故而聘和國民黨大佬關係不錯的蔡元培就任北京大學校長。1917年7月，蔡元培就職剛剛半年，因抗議張勳複辟，向總統黎元洪提出辭職，直到張勳玩完，他才複任校長。
1919年“五四運動”的時候，蔡元培每日奔波救助被捕的學生，心力交瘁之下親自向總統徐世昌遞送辭北大校長信，並發表《不願再任北京大學校長的宣言》，當晚離京，後在多方勸說之下才回來；同年12月31日，北京各校教職工要求政府以現金發薪而罷課，教育部故意拖延，蔡元培與北京其他各大專院校校長聯名辭職，直至教育部對教職工所提要求完全承認，才又複職。
1922年，北大校長蔡元培再次辭職，這次的事情鬧得有幾分荒唐：北大少數學生反對征收講義費，並肆意喧鬧，甚至圍攻校長。蔡元培痛感“平日訓練無方，良深愧慚”，要辭職走人。北大學生“相顧驚駭”，緊急開會挽留“我們平日所信仰的蔡校長”。後胡適等多次調停，蔡元培念及鬧事學生隻是個別，繼而複職。
1923年，57歲的蔡元培為抗議教育總長彭允彝幹涉司法獨立，向總統府提出辭去北大校長職，並在《晨報》刊發聲明，七十餘字如洪鍾大呂：“元培為保持人格起見，不能與主張幹涉司法獨立、蹂躪人權之教育當局再生關係，業已呈請總統辭去國立北京大學校長之職，自本日起，不再到校辦事，特此聲明。”此後，蔡元培遊學歐洲四年，離開了北大。
南京國民政府時代，蔡元培先後就任國民政府大學院院長、中央研究院院長、代理司法部長等。他幾乎每年都要寫幾封辭職信：請辭大學院院長，請辭司法部部長，堅辭監察院院長，堅辭中央政治會議委員，堅辭國民政府委員……國民政府曆次都是“準假”、“慰留”。1929年8月8日，百忙之中的蔣介石親自到蔡元培上海家中，敦請留職監察院院長。蔡元培仍堅辭不就：“我是好好先生，怎麼可以做監察的事情？”1935年，69歲的蔡元培正式登報聲明辭去本兼各職計23項，隻留任中央研究院院長一職。
抗戰爆發後，蔡元培已經年近70歲，在國民政府的安排下，他被護送到香港躲避戰亂。1940年3月，72歲的蔡元培在香港病逝。
蔡去世後，蔣介石在重慶主持公祭，延安則舉行各界追悼大會。毛澤東在唁電中稱其為“學界泰鬥、人世楷模”；周恩來的挽聯雲：“從排滿到抗日戰爭，先生之誌在民族革命；從五四到人權同盟，先生之行在民主自由。”蔣夢麟的挽聯是“大德垂後世，中國一完人”，吳稚暉的挽聯是“平生無缺德，舉世失完人”。
好人也發火
蔡元培儒雅溫和，有古君子之風。1916年冬，他第一次踏入北大的大門。當時工友們在校門口排隊迎接，行禮歡迎“校長大人”。蔡見狀急忙從馬車上下來步行，他一邊往前走，一邊脫帽向兩邊的工友們致意，不住地說道：“謝謝諸位，大家辛苦了！”工友們見此情景，非常感動，紛紛讚歎道：“蔡先生真是一位好人啊！”此後，他每天經過校門，都脫帽鞠躬，向校警還禮。他對所有北大中人都一視同仁，從無尊卑之分。老北大的人，不論師生員工，都稱蔡元培為“蔡先生”，幾十年來一直如此。
自蔡元培執掌北大之後，有教無類，學風大盛，許多青年學生慕名來蹭課，大家還總結了北大的“五大公開”“三類學生”。所謂“五大公開”，一是課堂公開，不管有沒有學籍都隨便聽課。二是圖書館公開，可以隨便進出。三是浴室公開，什麼人都隻管去洗。四是運動場地公開，操場上外校學生有時比本校的還多。五是食堂公開，無論誰都可以享受到物廉價美的飯菜。所謂“三類學生”，一是正式生，二是旁聽生，三是偷聽生。正式生是考進來的，天之驕子；