蔡元培曾這樣解釋他的平民教育思想：“‘平民’的意思，是‘人人都是平等的’。從前隻有大學生可受大學的教育，旁人都不能夠，這便算不得平等。”他在校內創辦校役夜班，“於是大學中無論何人，都有了受教育的權利。”他積極支持學生創設平民夜校，使“現在大學生分其權利，開辦這個平民夜校，於是平民也能到大學去受教育了。”
1918年1月，有部分學生聯名向蔡元培寫信反映，第一宿舍丙字號工友何以莊勤於職守，業餘好學，文理通達，隻因家中貧寒而廢學，建議校長量才拔用。蔡元培很重視同學的建議，為不埋沒何之所長，立即把他調到文科教務處擔任繕寫工作，並酌增其月薪。蔡元培在給同學的複信中，除充分反映他愛惜人才，鼓勵好學上進的精神外，還提出了籌辦校役夜班的計劃。信的全文是：
來函及何以莊所作三篇，均悉。昔郭林宗於旅舍中躬自掃除；美國大學生間有於晨間執灑掃之役，或午晚間為人侍膳者；日本大學生有於倮餘散報紙或拉入力車者。為貧而役，本非可恥。一校之中，職員與仆役，同是作工，並無貴賤之別。（法國教育家多入工會，東方人或以任教育事業者至等於官吏，誤也。）不過所任有難易，故工貲有厚薄耳。惟何以莊既文理清通，不可沒其所長，已調入文科教務處，任繕寫之務，酌增月給，借以勵其為好學之誠，而歡成諸君之美意。且本校對於校役，本有開設夜班之計畫。他日刻期開課，尚須請諸君及其他寄宿舍諸君分門教授，必為諸君所讚成。因何以莊事而聯想及之，並以聞。
蔡元培為籌辦校役夜班，親自籌劃班次，招聘教員。為此，從3月18日起，連續六天在北大日刊上刊登《校長告白》，函告全校同學。全校共設十班，分為甲、乙兩組，每組受業三晚；每班教員六人，共60人。他希望同學“各以所長，分任教科”。同學們積極響應，一周中即有三十多人報名任教，有的教職員也參加。3月27日，蔡元培在校長室主持召開校役夜班教員會，到會夜班教員57人。會議議決：在景山東街及北河沿兩處校舍各設夜班教務處一所；教學分為國文與修身、算術與理科以及外國語三部，每部推舉一位主任；凡本校校役一律入班學習；國文教學用白話體，修身用講演體，算術除筆算外兼習珠算；外國語於英、法、德及世界語中任選一種，為選修課。隨後，組成了各門教授會並推選了主任：國文教授會，主任為康白情；修身教授會，主任為高月彩；算學教授會，主任為梅廷獻；理科教授會，主任為羅加倫；外國語教授會，主任為李四傑。
1918年4月14日，在蔡元培的積極倡議下，北大校役夜班正式開辦。這在北大曆史上是破天荒的創舉。那一天全校工友二百三十多人，均身著長衣，胸佩花朵，齊集文科第一教室舉行開學典禮。蔡元培親自到會並發表演說。他強調“一種社會，無論小之若家庭，若商店，大之若國家，必須此一社會之各人，皆與社會有休戚相關之情狀，且深知此社會之性質，而各盡其責任。故無人不當學，而亦無時不當學也。”他認為夜校的好處，有益於現在的工作，有益於他種職業之預備，“若就性之所近，力求進步，亦未嚐不可成為學者，為鄉村學校教師。”當時校役夜班開設有：修身、國文、算術和理科四門必修課，並由學員於英、德、法語和世界語中任選一種作為外語課。夜班除教務主任由各教授會公舉一人外，教員全部由學生義務擔任。許多同學都很熱心這項工作，除認真授課外，還發起募捐，為學員購買書籍。許多教職員都熱心捐助，如李大釗曾捐助票銀三元。校役夜班共辦了兩年多時間。
1920年，在蔡元培的積極讚助下，由學生會教育股創辦了平民夜校，實行男女合校，招收了350個學生，其中男生240人，女生110人；年齡最長者38歲，最小的6歲，主要是學校附近的平民子弟。1月18日在法科禮堂舉行開學典禮，到會者有七八百人，蔡元培、陳獨秀都以來賓身分參加，並相繼發表了演說。蔡元培在他熱情洋溢的演說中說：“今日為北京大學學生會平民夜校開學日，此事不惟關係重大，也是北京大學準許平民進去的第一日。從前這個地方是不許旁人進去的，現在這個地方人人都可以進去，從前馬神廟北京大學掛著一塊牌，寫著‘學堂重地，閑人免入’，以為全國最高的學府，隻有大學學生同教員可以進去，旁人都是不能進去的。這種思想，在北京大學附近的人，尤其如此，現在這塊牌已經取去了”。他認為校役夜班的開辦，是北京大學改變的第一歩，“於是大學中無論何人，都有了受教育的權利。不過單是大學中人有受教育的權利還不夠，還要全國人都能享受這種權利才好。所以先從一部分做起，開辦這個平民夜校”。他希望有更多的平民子弟進入平民夜校。
蔡元培把平民學校作為普及教育，使平民有到大學受教育的權利，同時也是作為溝通學校與社會的一個渠道，大學生為社會服務的一項重要措施，而積極提倡。他的這一主張，得到許多學生的響應，如1921年4月，一些同學發起成立了平民教育研究社，以研究平民教育為職誌。他們還以北大學生會名義，積極籌辦第二平民學校。
平民夜校從管理到教學工作，都是由北大學生義務擔任。他們學習蔡元培勇於革新的精神，努力采用新法進行平民教育。平民夜校經過逐步完善，開辦了高小班、國民班和特別班。特別班分甲（相當初中前三學期）、こ（相當初中後三學期）兩部，學生多來自中學，具課外補課性質。高小、國民兩班程度與普通小學相等，學生多為貧民及其子弟無力升學者，教學目的在於使他們能直接應用，不再為他們升學的預備，因而教材偏重於地理、曆史、國語、常識及算術計算法。學生實行分科製，不受年級的限製，即某科程度達某年級時就在該年級上課；同一學生不同課程可在不同年級，而以重要課程在最低一級代表其年級。規定教學以“啟發”為原則，以“談話”為方式，打破“注人式”，取消“講演式”。教務處組織學生讀書方法指導團，隨時隨地加以指導，並定期舉行讀書法的演講。教員還輪流於每星期日下午率學生參觀、遊覽、遊戲或交淡，使學生在“人格化”、“自然化”、“藝術化”中得到學問。此外，規定每星期由教務處報告時事一次，以引起學生讀報的興趣；每星期六晚舉行修身談話會，每星期日上午請人講演。學校還分設教務、行政、體育、訓育、學生等委員會，以全體教職員會議為立法機構。規定教職員連續兩星期不到校視事者辭職，學生連續三日不到校上課者除名。夜校經費由北大每月津貼四十元（包括學生書籍費），不敷部分，組織學生半工半讀，通過販賣實物等取得。平民夜校工作也得到北大教職員的熱情支持，魯迅曾向平民夜校贈送了《熱風》、《出了象牙之塔》、《呐喊》等書籍。