1919年采用分係製後，改由各係成立教授會。各係主任由教授會投票選舉，規定凡係裏有教授一人者即為主任；兩人者按期輪值，以先到者為始；三人以上互相選舉，如票數相等，校長可增投一票決定人選。教授會負責規劃本係的教學工作，如課程的設置，教科書的采擇，教授法的改良，學生選科的指導和學生成績的考核等。
蔡元培開始時是采取加強各科學長的職責，各科的行政、教務仍分別由學長負責領導。各科都設有教務處。但按他的改革設想，是要按學校的行政、教務和事務方麵分別設立各種相關的委員會，由有關教授分別領導，統一管理。他認為：“照此辦法，學校的內部，組織完備，無論何人來任校長，都不能任意辦事。即使照德國辦法，一年換一個校長，還成問題嗎？”這就是說，要通過製度和組織的不斷完善，來保證民主製的實施和防止個人專權。
1919年3月，學校評議會通過了文理科教務處組織法，準備成立統一的教務處。教務處由各教授會主任組成，並從中推選教務長一人，襄助校長領導全校的教學，任期一年。這個組織法原決定這一年暑假後與分係製一起實行，但恰在這時，社會上反動勢力掀起了一股攻擊北大，特別是攻擊北大文科的逆流，因而新文化運動主將、文科學長陳獨秀等人也就成了被攻擊的主要目標。在這場新舊思潮的激戰中，蔡元培挺身而出，勇敢地保護了新文化運動；但同時由於他所處的地位和環境，使他還沒有與舊勢力徹底決裂的勇氣，因而想緩和一下空氣。於是，他決定提前實行文理科教務處組織法，組織統一的教務處，這樣就在實際上取消了文科學長的職務。4月8日，蔡元培召集文理兩科各教授會主任及政治、經濟門主任會議，籌組教務處，並按組織法由各主任投票選舉，結果馬寅初當選為教務長，成為北大第一任教務長。陳獨秀這時辭去了文科學長，由學校改聘為教授。當時社會上關於陳獨秀被迫辭職的謠言紛起，對此蔡元培曾解釋說，陳獨秀雖不做文科學長，但仍然是北大的人員，這隻是屬於北太內部機構的變動。
北大廢除學長製有一個過程。這次提前實行文理科教務處組織法，對外公開的理由，是因為理科代理學長秦汾調任教育部司長，文科學長陳獨秀也因事請假南歸，因此進行內部機構的變動，並沒有提出廢除學長製的問題。這次機構調整實際隻取消文理兩科的學長，而法科和工科的學長仍在執行職務。五四運動發生後，蔡元培於5月9日被迫出走時，就曾委托工科學長溫宗禹暫署校務。5月13日晚召開的評議會和教授會主任聯席會議，也決定推舉法科學長王建祖以及胡適、沈尹默等組成一個委員會，“襄同溫學長代行校務”。所以這時還沒有完全廢除學長製。
1919年7月，蔡元培接受師生要求同意回校繼續任職，但因病仍滯留杭州無法立即成行，他委托蔣夢麟先行到校代辦校務。9月蔡元培返校後，向師生宣布了進一步整頓和健全學校組織的計劃，並成立了由蔣夢麟、顧孟餘、胡適、馬敘倫等組成的組織委員會。這個委員會主管學校的改組、整頓、起草章程和修改規則等事項；同時負責籌劃學校內部組織事宜。12月，它起草並經評議會討論通過了內部組織試行章程，進一步健全學校的領導機構。按照這個章程，除評議會仍為全校最高立法機關和權力機關外，還建立了以下幾個機構：
（一）設行政會議，作為全校的最高行政機構和執行機關，掌握全校行政大權，負責實施評議會議決的事項。它的成員以教授為限，由各專門委員會的委員長及教務長、總務長組成，校長兼行政會議議長。它下設的十一個專門委員會分管一部分行政事務，計有：庶務委員會（管理全校的房舍、衛生），組織委員會（負責機構調整和草擬各種章程），學生自治委員會（接洽學生自治事項），出版委員會（負責校內書刊的審查和出版），預算委員會（製訂學校預算計劃），審計委員會（審核經費使用情況），圖書委員會（負責圖書館的行政），儀器委員會（主管各儀器室的行政），聘任委員會（負責聘請教師），入學考試委員會（定入學考試的標準），新生指導委員會等。各專委員會成員，由校長推舉，經評議會通過。