從史籍記載中，我們常會發現負責管理一縣的長官，因朝代不同而有縣令、縣長、縣尹等不同的稱呼。但到了明清時期，掌管一縣政事的長官被稱為知縣，如明馮夢龍《警世通言·蘇知縣羅衫再合》：“正說間，後堂又有幾個閑蕩的公人聽得了，走來幫興。”另清吳敬梓《儒林外史》第十六回：“忽聽窗外鑼響，許多火把簇擁一乘官轎過去，後麵馬蹄一片聲音，自然是本縣知縣過。”那麼，縣的長官為什麼稱為“知縣”呢？
“知”有主持、管理之意。如《呂氏春秋·長見》：“三年而知鄭國之政也。”《世說新語·政事》：“山公以器重朝望，年逾七十，猶知管時任。”知縣就是管理縣事的官吏。
“縣”在政區建製開始於春秋時期。那時，秦、晉、楚等國在新兼並的邊地設縣，後來又推行到內地。秦始皇統一六國後，在全國推行郡縣製。縣作為地方一級行政單位曆時兩千多年不變。
在唐代以前，縣的長官稱縣令或縣長。
“知縣”之名最早起源於唐朝，在唐中期，若有的縣暫無縣令，則由縣內輔佐的官員代理主持縣的事務，叫“知縣事”，但這佐官隻是代理性的臨時差遣，並不是縣令。而五代是中國另一次大分裂時期，戰亂頻繁，政治混亂，故當時各縣吏治腐敗，縣令都是由昏庸無能的人所擔任，以致貪汙受賄，苛捐雜稅沉重。
到了宋初，為提升吏治，重建縣令威望，宋太祖便開始派遣朝廷的官員前去主持縣務，此時的“知縣事”仍是臨時委任的官職，官員本身在朝廷都有職務，所以並非縣的正式長官。知縣的助手有縣丞、主簿等。縣丞協助知縣管理縣政，主簿管理全縣的糧稅、戶籍等。至宋朝末年，便廢除縣令，直接設置了“知縣”。
到明朝時，“知縣”便成了縣級首長的正式專有名詞，而清朝也就沿用沒有改變。如清《睢陽尚書袁氏（袁可立）家譜》：“十世賦正字貞叟，號開美，歸德府學諸生，明末考授鄢陵縣知縣。”
其實管理一縣政務的行政長官，在周朝時稱為縣正，春秋時代則稱為宰、尹、公等。秦漢時，縣擁有萬戶以上者稱“縣令”，不滿萬戶者稱為“縣長”。唐朝時縣設令，縣分赤、畿、望、緊、上、中、下七等，但無令長之分。宋朝承襲唐製，朝臣派往縣充當長官則稱知某縣事，簡稱知縣。元朝時縣設置達魯花赤（在蒙古語中是“鎮守者”的意思），以縣尹為副。明清時期沿襲宋製稱為知縣，相當於現今的縣長。
曆史上不乏有名氣的知縣。如湯顯祖、李兆洛等。
湯顯祖，明朝著名戲曲作家、文學家。字義仍，號海若、老士、清遠道人，江西臨川人，住所名玉茗堂。湯顯祖出身書香門第，早有才名，26歲時刊印第一部詩集《紅泉逸草》。34歲中進士，先後任太常寺博士、詹事府主簿和禮部祠祭司主事。萬曆十九年（公元1591年），作著名的《論輔臣科臣疏》，批評神宗朱翊鈞即位後的朝政，抨擊宰輔張居正和申時行，因而被貶廣東徐聞任典史。萬曆二十年調任浙江遂昌知縣，頗多善政，並有詩作諷刺朝政，關心民間疾苦。萬曆二十六年（公元1598年）棄官歸裏。
李兆洛（公元1769—1841年），清代學者、文學家。字申耆，晚號養一老人。陽湖（今江蘇常州）人。嘉慶十年（公元1805年）進士，選翰林院庶吉士，充武英殿協修，曾任鳳台知縣。後主講江陰暨陽書院達二十年。工詩古文，尤長輿地。