回老家杭州後，俞平伯任教於杭州第一師範學校，與同在此執教的朱自清結為摯友。
俞平伯性子隨和，不愛官場愛文章，詩與散文都寫得很漂亮，同時癡迷《紅樓夢》。1922年，他寫了本《紅樓夢辨》，剛出版就被世人稱為“新紅學開山之作”。新紅學的特點很簡單，就是考證，研究內容主要有兩個方麵：即作者和版本的考證。胡適的《紅樓夢考證》主要集中在作者（包括作者的身世、家世等）的考證問題上，俞平伯的《紅樓夢辨》則主要集中在對文本本身的考證上。
1922年1月，俞平伯和朱自清、葉聖陶等創辦了新文學史上第一個專刊發新詩的月刊《詩》，主張詩歌平民化，“平民性是詩的主要素質”，“新詩不但是材料需探取平民的生活，民間的傳說、故事，並且風格也要是平民的方好。”他的詩集《冬夜》《西還》《憶》等，清新明快，直抒胸臆。如其代表作《小劫》：“雲皎潔，我底衣，雲爛熳，我底裙裾，終古去敖翔，隨著蒼蒼的大氣；為甚麼要低頭呢？哀哀我們底無儔侶。去低頭！低頭看--看下方；看下方啊，吾心震蕩；看下方啊，撕碎吾身荷芰底芳香。罡風落我帽，冷雹打散我衣裳，似花花的蝴蝶，一片兒飄揚。歌啞了東君，惹惱了天狼，天狼咬斷了她們的翅膀！獨置此身於夜漫漫的，人間之上，天荒地老，到了地老天荒！赤條條的我，何蒼茫？何蒼茫？”
另外，他的散文集如《燕知草》《雜拌兒》《雜拌兒之二》《古槐夢遇》《燕郊集》等，文筆細膩，意境空靈，奠定了他作為近代散文大家的基礎。1923年秋，俞平伯和老友朱自清共遊南京秦淮河，相約一同以《槳聲燈影裏的秦淮河》為題各寫一篇散文，登在《東方雜誌》上。兩篇文章發表後，轟動文壇，一時傳為佳話。
1924年之後，俞平伯回到北京，先後在燕京大學、清華大學、北京大學、北平大學女子文理學院等校任教授。
俞平伯安於恬淡，北京特立獨行的教授太多，故而他並不耀眼。“九·一八”事變後，性子溫和的他異常氣憤，連續發表了《救國及其成為問題的條件》《致國民政府並二中全會快郵代電》《國難與娛樂》等文章，號召青年們起來救中國。
抗戰爆發後，俞平伯因照顧年邁雙親未能南遷昆明，而留在北平淪陷區。他婉拒周作人的邀請，不願去偽北大執教，實在窮得沒辦法，就變賣祖產度日。硬挺了八年，抗戰勝利，他得以重回北大，周作人則因“文化漢奸”之罪下了監獄。
北平和平解放前夕，俞平伯與北京文化界民主人士及北大、北師大等校30名教授發表對全麵和平書麵意見，一致擁護共產黨。5月4日，正是“五四”運動30周年紀念日，他應《人民日報》之約，寫了充滿激情和希望的文章《回顧與前瞻》。北平解放後，迎來了中國共產黨的生日，7月1日晚，俞平伯參加了紀念大會後回到家中，心潮起伏，連夜寫了一首長詩《7月1日紅旗的雨》，為中國共產黨的勝利而謳歌，其詩在《人民日報》上發表。
1952年9月，俞平伯應出版社之邀，將舊作《紅樓夢辨》再次修訂後出版。不料引起了李希凡、藍翎兩個青年學生對其的批判，兩人認為俞平伯的思想是“資產階級唯心主義論”。年輕人以馬克思主義理論來武裝頭腦看待《紅樓夢》也未嚐不可，可當時俞是紅學權威，兩人的文章沒地方發表，後來還是母校山東大學的刊物《文史哲》給發了。簡單的一件小事，卻不知怎麼引起了中央領導人的注意，要求《人民日報》轉載，文藝界有些負責人認為《人民日報》刊發此類文章不合適，就決定由《文藝報》轉載。
此後不久，全國掀起了轟轟烈烈的批俞運動。俞平伯多次撰文“深刻反省”，勉強過關。“文革”開始後，俞平伯再次受到批判，老夫妻一度下放到河南息縣的“五七”幹校，住在一間不到十平方米的雜物土房裏，每天的工作是種菜和搓麻繩。兩位年近古稀的老人心胸曠達，安之若素。1971年，在周恩來總理的關心下，俞氏夫婦才得以回到北京，日常以唱昆曲、打橋牌為主。
十年浩劫結束後，俞平伯的地位再次被國際紅學界認可。1980年，中國紅樓夢學會成立，他被邀請為學會顧問，對於世人對《紅樓夢》的種種解讀，晚年的俞平伯隻是淡然道“《紅樓夢》是一部小說”。文學作品而已，哪有那麼複雜？從炫燦到平淡，俞平伯走了幾十年。