劉大夏，字時雍，號東山，明代華容（今屬湖北）人。他於天順八年（1464年）中進士，被選為翰林庶吉士。此後，本來可以留在時人向往的翰林院步步高升，但他卻主動要求到地方去做官。由於他勤政廉政又精明能幹，官職不斷升遷。數年後，被任命為廣東右布政使。
劉大夏上任不久，就開始清查布政使銀庫。他發現有一筆巨款沒有人賬，就問庫吏為什麼？庫吏告訴他，這筆款從來不上庫簿，都是曆任布政使直接掌握和具體支配的。照現在的話說，屬於單位的“小金庫”，由單位領導來安排。那庫吏還勸劉大夏蕭規曹隨，照例行事。劉大夏聽後，思忖良久，突然大聲地自我責備起來：“劉大夏啊劉大夏，多年來你一直在讀聖賢書，做好人，可今日卻為何遇到這麼一件事，就沉吟許久呢？實在是有愧古人，非大丈夫也！”說罷，即命庫吏將這項餘羨如數登入庫簿，作正支銷，自己分文未取。
後來，劉大夏又被任命為都禦史負責治河，作為欽差大臣到宣府（今宣化）清理兵餉。無論到哪兒，他都嚴於律己，決不私占一文錢。在宣府，他還針對當時當地的實際情況，限製勢豪，並鼓勵中等之家納粟，從而保證了邊防的軍需供應，協調了軍民關係，他本人也隨之名聲日著。
劉大夏年過花甲後，惟恐力不從心而有誤國事，曾接連三次上書請求致仕（退休）。明孝宗朱祐樘見他體弱多病，隻好答應了他的要求。但他在家休養不到二年，朝廷又基於兩廣一帶“盜賊”猖獗，民怨沸騰，起用他為右都禦史，總理兩廣軍務。他接到聖旨，隻帶了兩名書童，便趕赴兩廣。到任後，他經過認真的調查研究，方知兩廣因賦役不均，才導致了社會矛盾激烈尖銳。於是，有的放矢地采取了一些有效措施，使當地治安狀況迅速好轉。史書上說：他“為清吏治，損供億，禁內外鎮守官私役軍士，‘盜賊’為之衰止。”
劉大夏為人剛正，從不顧私，即使在皇帝麵前也總是直截了當地發表個意見。有一次，他向孝宗上陳兵政十害，孝宗命他更詳細地談一談弊端之所在，他便列舉了南北漕運中的軍民之苦，邊防軍的困敝，以及一些文官武將如何侵吞公款、搜刮民財等等，引起了孝宗的高度警覺和重視。也正因此，他得罪了不少權貴。
孝宗死後，武宗朱厚照繼位。在武宗正德初年，大太監劉瑾專權。這時，70多歲的劉大夏已退休還鄉，但奸臣焦芳等人仍誣告他貪汙受賄，還說他家的財貨足夠邊防費用十幾年。劉瑾遂公報私仇，下令逮捕劉大夏，將他下獄戍邊，並抄他的家。當官校到達劉家時，隻見劉大夏正在園內種菜；當翻遍了他家所有的箱櫃，隻找到了俸金30兩。劉大夏將這些錢全都交給了官校，而那官校卻流著眼淚拒絕而去。
劉大夏被發戍肅州（今甘肅酒泉）。臨行前，“觀者歎息泣下，父老攜筐送食，所至為之罷市，焚香祝劉尚書生還”。
據史載，劉大夏被冤枉的消息傳出後，朝野無不震驚，就連朝鮮、越南的使臣也都頻頻詢問，並公認他為海內第一人。
正德十一年（1516年），劉瑾因圖謀發動政變而被殺，劉大夏這才被赦歸。從此，他在家率子孫種田。稍有盈餘，即分送給親朋故舊中的一些貧困人家。
劉大夏當年曾有兩句名言，一是“居官以正己為先，不獨當戒利，亦當遠名”；二是“人生蓋棺論定，一日未死，即一日憂責未已”。前一句的意思是：做官要首先正己，而後才能正人，隻有不圖名利，才能真正做到清正。後一句則是說：嚴於律己要自始至終，不可有一日鬆弛。他晚年時，又為自己寫了一篇墓誌，其中有句話是：“無使人飾美，俾懷愧地下也。”意思是：無須別人去美化與吹捧，捫心自問，無愧於良心，方可以死而瞑目。許多人認為：這些話都是他一牛的真實寫照。