中小學圖書館的任務，在國家教育部頒發的《中小學圖書館（室）規程（修訂）》中已有明確規定：“圖書館的基本任務：貫徹黨和國家的教育方針，采集各類文獻信息，為師生提供書刊資料、信息；利用書刊資料對學生進行政治思想品德、文化科學知識等方麵的教育；指導學生課內外閱讀，開展文獻檢索與利用知識的教育活動；培養學生收集、整理資料，利用信息的能力和終身學習的能力；促進學生德、智、體、美等全麵發展。”具體來說，有以下幾個方麵：
（一）建立具有中小學特色的藏書體係
1.積極地收集文獻
中小學圖書館應結合本校特點和實際要求，積極收集各種文獻。中小學圖書館文獻的結構要合理，要注意兼顧學生、教師的不同需要，收集與之相適應的各類文獻。
中小學圖書館的藏書應包括必備的工具書，教學參考書，教育、教學方麵的理論著作，還要收集大量的有益於學生身心健康的書刊。為此，要製定符合中小學特點的文獻收集標準、及時適當的剔除陳舊過時書刊的原則等。文獻收集工作要注意保持文獻的連續性、完整性，盡量做到品種豐富、複本適量；還應該根據本校特點，形成特色藏書。
2.科學地整理文獻
對從各種途徑收集來的文獻，應進行科學的整序工作，使文獻按照知識體係形成有係統的藏書。這就需要進行文獻登錄、分類、著錄、編製各種卡片目錄和書目數據庫等。
文獻登錄應建立總括登錄和個別登錄兩種帳目，完善書刊的登錄製度。
文獻分類應使用《中國圖書館分類法》。期刊的分類應使用《中國圖書館分類法·期刊分類表》。
圖書著錄應以國家標準《普通圖書著錄規則》為依據，期刊著錄應以國家標準《連續出版物著錄規則》為依據。
中小學圖書館的目錄設置卡片目錄或書目數據庫。中學圖書館（室）卡片目錄應設書名目錄和分類目錄。小學圖書館（室）要設書名目錄。
中小學圖書館應采用分類排架法，以便於師生利用藏書和工作人員管理藏書。
（二）開展書刊借閱工作，提高書刊利用率
中小學圖書館（室）應采取多種形式對教師和學生開展外借、閱覽、宣傳推薦等服務工作，並發揮班組圖書角、圖書箱的作用。
（三）對學生進行課外閱讀指導
組織形式多樣的讀書活動，對學生進行課外閱讀指導，內容包括圖書和圖書館知識介紹、工具書使用方法、圖書的選擇和讀書方法以及讀書衛生知識等方麵的指導。有條件的學校可以開設閱讀指導課。
（四）做好為教師服務的工作
中小學圖書館要積極地為教師提供教學參考文獻，注意傳遞最新文獻信息，解答教師提出的各種谘詢問題。條件好的圖書館應根據各種教學的需要，編製專題書目、索引或數據庫，供教師查閱使用。
（五）積極參加協作活動
中小學圖書館要積極爭取各級各類圖書館（含少年兒童圖書館）在業務上的輔導與支持。有條件的可參加本地區組織的協作網，開展各種協作活動。
（第三節）中小學圖書館（室）的產生與發展
中小學圖書館是中小學的重要組成部分，它的產生和發展是與中小學教育的產生與發展息息相關的。
一、中小學圖書館（室）的產生
我國中小學圖書館源於古代的書院教育，產生於教會學校。
唐開元六年（公元718年）設麗正修書院。十三年改稱集賢殿書院，置學士，掌校刊經籍、征集遺書、辯明黃章，以備顧問應對。貞元中，李渤隱居讀書於廬山白鹿洞，至南唐時就遺址建學館，以授生徒，號為廬山國學。宋代書院尤盛，有白鹿洞、石鼓（一說為嵩陽）、睢陽、嶽麓號稱為四大書院。書院一般選名勝山林為址，不少名學者講學其問，采用個別鑽研，相互問答，集眾講學相結合的教學方法，以講習儒家經典為主，間亦議論時政，對學術思想發展有一定影響，辦者或為私人，或為官府。元代各路、州、府皆設書院。明、清書院仍盛，唯多數成為準備科舉的場所。清末廢科舉，書院改為學校，其藏書多為圖書館藏書。
1844年，北京的彙文學校建立了圖書館。當時，北京有兩所教會學校，這是我國最早的近現代學校，彙文學校是其中之一。彙文學校圖書館的辦館方針，管理方法都來源於西方。因此，我國中小學圖書館首先產生於外國人創辦的教會學校。這時的中小學為數很少，寥寥可數。