十年動亂初期，呂叔湘也參加勞動學習，後來也下幹校。1971年回北京，住在家裏，很少外出。一度從事丹陽方言的研究，也閱讀了好些英國文學作品。“文革”後期，他和幾位同誌代中華書局校勘標點本《資治通鑒》的標點，後來把其中有代表性的一百三十多條分三十類，寫成《資治通鑒標點瑣議》，許多標點古書的人為之震動。同時，他又反複考慮現代漢語語法體係的問題，這是他從60年代初就一直放在心上的。後來他把自己的種種想法寫成《漢語語法分析問題》，於1979年出版。
經過幾乎完全沉默的十年之後，語言學界逐漸活躍起來了。1978年以後，有些省市組織了語言學會，1980年在武漢開會成立了全國性的中國語言學會，呂叔湘被推舉為會長。在成立大會上，呂叔湘發表了題為《把我國的語言科學推向前進》的長篇講話，提出要處理好中和外、虛和實、動和靜、通和專四個關係，這既包括治學態度、又包括研究方向、方法和人才培養，可以說是他數十年來從事語文工作的經驗總結。
1978年3月16日，呂叔湘在《人民日報》上發表《語文教學中兩個迫切問題》，引起極大震動。1979年12月教育學會邀請各省市代表到上海開會討論成立中學語文教學研究會，呂叔湘被推舉為理事長，並在會上發表了長篇講話。
1980年，由呂叔湘主編、有十幾位學者參加的《現代漢語八百詞》出版，這是我國第一部現代漢語用法詞典，全書五十多萬字，適合非漢族人學漢語時使用，也可供方言區的人學普通話時參考。選詞以虛詞為主，也收部分實詞；每個詞按意義和用法分項說明。這部詞典在某種意義上說是個創舉，過去雖然有過《經傳釋詞》和《詞詮》等書，但都以文言為對象。
1980年出版的《語文常談》和1984年出版的《語文雜記》都是篇幅不大的“小書”，但很能表現呂叔湘講學問能夠深入淺出的特色，這一時期呂叔湘還把以前發表過的文章結集為《漢語語法論文集》（增訂本）和《呂叔湘語文論集》。更重要的是1985年出版的《近代漢語指代詞》，呂叔湘在40年代就有寫一部近代漢語曆史語法的計劃，1947至1948年他把搜集的材料裏麵關於指代詞的部分分類排比，略加貫串，寫成初稿，作為近代漢語曆史語法的一部分。後來因為工作有了改變，就把稿子擱了下來。1983年取出舊稿，經過整理和補充，寫成《近代漢語指代詞》一書，1985年由上海學林出版社出版。出版後在國內國外都獲得好評。
1985年是呂叔湘從事語文教學與研究的第六十年，《中國語文》雜誌社第一、二期出版特輯，以表慶賀。4月下旬至5月上旬，他應邀訪問香港。4月27日他在香港中國語言學會演講《漢語句子結構的靈活性），受到與會者的好評。
1986年10月14日至18日，在北京西山第四次現代漢語語法學術討論會上，呂叔湘講了話，主要是推薦一篇《光明日報》上報道楊振寧教授談要研究活的物理學的文章。他抑揚頓挫地朗讀了報道的全文。與會的四十多名中年同誌和三十多名列席旁聽的青年同誌領悟了呂叔湘先生這番話的深刻含意：搞語言學也應該追求新的、活的、與現實直接發生關係的東西。呂叔湘引楊振寧的話：“一個青年人應該將他的大部分時間用於解決簡單的實際問題，偶爾做一些難的問題，而不應該專一處理深奧的根本問題。”
呂叔湘追求進步，熱愛祖國，先後從事語文教學與研究工作。他非常關心中青年語文工作者的進步，對他們寄予極大的期望。通過開會、作報告、個別談話、給他們修改文章、為他們的著作寫序等多種形式，他跟中青年語文工作者保持密切的聯係。他的優良學風、高尚品德，受到學術界的普遍讚揚，為了推進祖國語言研究的發展，鼓勵對中國境內的語言文字的現狀和曆史進行調查研究有成績的中國青年學者，呂叔湘先生於1983年5月捐獻多年積蓄的六萬元，作為中國社會科學院青年語言學獎金的基金。從1984年開始每年進行評獎（最近改為每兩年進行一次）。
1987年10月23日，在北京中國人民大學建校五十周年慶祝大會上，舉行了吳玉章獎金首次發獎儀式。吳玉章獎金這次評選出特等獎三項，一等獎五項，優秀獎四項。獲獎作品是哲學社會科學的優秀著作。呂叔湘的《漢語語法論文集》（增訂本）榮獲語言文字學特別獎。發獎以後，呂叔湘先生代表獲獎者講了話。他希望吳玉章獎金基金將日益增多，獲獎作品也越來越多，並表示，他要把這次所得的獎金五千元轉為中國社會科學院青年語言學家獎金。呂叔湘先生這種高瞻遠矚、寄希望於未來、獎掖後學的崇高精神，受到了與會者的熱烈歡迎。
呂叔湘先生在耄耋之年，還參加大百科全書語言文字卷的審稿工作，還有語言學界的其他集會，仍十分關心國內外學術界和教育界的動態和發展。1987年3月他去香港，接受香港中文大學頒發的榮譽文學博士學位。1994年當選為俄羅斯科學院外籍院士。他是第二、三屆全國政協委員，第三、四、五、六、七屆全國人大代表，第五屆全國人大常委會委員，法製委員會委員。他是當代中國傑出的語言學家、語文教育家、翻譯家。他從事語文教學與研究七十餘年，學貫中西，博大精深，撰述宏富，專著和編譯近二十種，論文和其他文章六百餘篇，現已有《呂叔湘文集》六卷由商務印書館出版，並將由遼寧教育出版社出版十八卷本《呂叔湘全集》。內容廣泛，涉及一般語言學、漢語研究、詞典編纂，文字改革、語文教學等領域，為中國語言學作出卓越貢獻。
1998年4月9日，呂叔湘先生因病醫治無效，在北京逝世，享年九十四歲。