翌年，再進京參加“散館”考試。因庶吉士經過一定的期限，須參加甄別考試，叫做散館，合格的授以編修，不合格的改任知縣。蔡元培順利地通過散館考試，升補翰林院編修。同年6月間，“甲午戰爭”爆發，京師頓時緊張起來，他在聯合英、德以禦日人的奏折上，和文廷式一齊署名。這年他又在李慈銘京寓中做了半年塾師。十一月間大文學家李慈銘逝世，元培為他的遺著《越縵堂日記》付梓。
這時，康、梁的維新變法正當全盛時期，蔡元培的思想也是偏向維新方麵的。他在戊戌年間與友人合設了一個“東文學社”，學習日文。學習日文是求取外國知識的一條快捷方式。蔡元培早期的西洋知識，除了部分得自中譯西書之外，主要是從日文書中得來的。
當時康、梁門下的人接踵而至，他最敬佩譚嗣同，又與梁啟超有己醜年同年中舉的關係，照說他會和康、梁同走維新路線，情形可料。可是，以他的性格卻恥於與炙手可熱的人相依附，維新派楊銳欲想拉攏，也被他拒絕。9月間，戊戌政變發生，保守派控製整個大局，百日維新的所有新政，除了京師大學堂仍然保留之外，全部都在轉眼之間被推翻了。
蔡元培是同情維新派的，他深感變法的失敗，是“由於不先培養革新之人才，而欲以少數人弋取政權，排斥頑舊，不能不情見勢絀”。他雖非康黨，因同情維新，又有深交被捕，難免被疑為維新派人物，隻好卸職南歸。這是蔡元培一生的轉折點，他已經看出滿清政府沒有希望了。
蔡元培南歸後，即在紹興紳士徐樹蘭所辦的一所叫“中西學堂”的中學任學堂監督（校長）。這是元培服務於新式學校的開始。校中分高小、初中和高中“三齋”。學科分文科、數學及理科等，外國語有英、法、日三種。蔡元培和黃仲玉及子女教員是當時紹興一時之選，學生在日後更是人才輩出。如後來曾任北京大學校長、也就是蔡元培的後任蔣夢麟，和該校地質學教授王烈，便是那時候第一齋的小學生；中央研究院秘書馬稷光和浙江教育科沈光烈，則是第三齋的高材生。
在中西學堂內，新舊的對立是很明顯的，蔡元培因過於袒護新派，舊派的堂董時加壓力。最後，他憤而辭職，以示不願意與舊勢力妥協。
蔡元培仍在中西學堂監督任內時，原配夫人為他生下了第二個兒子，叫做無忌，但不久王氏即因產後失調，與世長辭。還未滿一周年，作媒請續弦的人很多，元培提出五個條件：一、女子須不纏足；二、須識字；三、男子不娶妾；四、男死後，女可再嫁；五、夫婦如不相合，可離婚。
男子娶妾，在當時是被認為天經地義，而再嫁和離婚則是驚世駭俗。單就此事，已可得知蔡元培的重視男女平等，打破傳統社會陋習，其所受維新運動的影響是如何巨大。由於條件過苛，幾經說媒，難覓合適女子為繼室。一年後，始訪得江西黃爾軒的女兒黃仲玉，天足、工書、有才學，遂在杭州結婚。
他們的婚禮別開生麵，形式別致，賀詞亦諧，有人知他主張男女平等，故意在賀宴上說：“倘黃夫人學行高於蔡先生，則蔡先生應以師禮視之，何止平等？倘黃夫人學行不及蔡先生，則蔡先生當以弟子視之，又何以平等？”蔡元培答道：“就學行言，固有先後，就人格言，總是平等。”說得全場無不首肯。
蔡元培離開中西學堂後，仍一心為教育事業奔走。庚子、辛醜之間，亦即1900～1901年，為紹興僑農設一小學校。又在浙江省城議改某書院為師範學校，但為地方巨紳及當道所阻而未成功。在這年春，便轉到南洋公學當特班總教習。