張居正當政後，因他與王世貞有同年之誼,意欲引用他為自己的羽翼，但王世貞對之不甚親附，使得張居正很不高興。其時正逢鄖陽附近的荊州地震，王世貞引京房占卜術的說法，說是臣道太盛，以致坤維不寧，發生地震，實際上是有意影射張居正的權力過於龐大，希望他能適當收斂。這自然使得張居正很不高興。正好又遇上張居正的小舅子倚仗姐夫的權勢，在江陵侮辱縣令。王世貞立即將他逮捕治罪。這就進一步擴大了王世貞跟張居正之間的矛盾。於是張居正就利用王世貞奉命改任南京大理寺卿之際，指使給事中楊節加以彈劾，使世貞被解職，回籍候用。
萬曆六年，王世貞被起用為應天府尹。不久，又被劾罷官。張居正死後，朝廷起用王世貞為南京刑部右侍郎。這時 他對做官的興趣已大為降低，便托病不去赴任。他的好朋友王錫爵秉政後，起用他為南京兵部右侍郎。不久，又擢升為南京刑部尚書。王世貞在此以前所任的右副都禦史、大理寺卿、應天府尹及侍郎等，都是正三品，如總計以前的秩祿和考績，他已經具備蔭子的條件，即他的兒子已經能依靠他的蔭庇而得了。但是禦史黃仁榮出來反對，認為王世貞有幾次被劾罷官，不應連續計俸，不具備蔭子的條件。王世貞據理力爭，也沒有能成功，於是他便三次上疏，稱病回家。萬曆十八年（1590年）他病逝於家中。他的史學著作主要有《弇山堂別集》100卷，《嘉靖以來首輔傳》8卷、《觚不觚錄》1卷、《弇州史料》100卷等。
《弇山堂別集》和《弇州史料》都是王世貞為修明朝當代史所準備的史料，搜羅宏富，考核精詳。他在《弇山堂別集》的序言中說：“王子弱冠登朝，即好訪問朝家故典與閥閱琬琰之詳，蓋三十年一日矣。晚而從故相徐公所得盡窺金匱石室之藏，竊亦欲藉薜蘿之日，一從事於龍門、蘭台遺響，庶幾昭代之盛，不至態態爾。”這就是說，他搜集並考核這些史料，經過了30年如一日的努力，是希望用這些史料撰寫成如同司馬遷、班固那樣的史著，使得明朝的曆史也能跟漢朝相比美的。後來他的願望雖然沒有能完成，但是這也足見他搜集之勤，寫作之慎重以及考核之周詳了。《弇山堂別集》和《弇州史料》雖然至今仍是兩部史料書，沒有成為偉大的著作，而事實上後來清修《明史》卻已從這兩部史料寶庫中汲取了許多成果，有些地方甚至還直接搬用了其中的文句。
《弇山堂別集》最可貴的是卷20至卷30的11卷《史乘考誤》。王世貞在這11卷書的小序中提到，明朝國史失職，無左右史記言動的起居注，所以許多事情在實錄中因“無所考而不得書”，“有所避而不敢書”，更有甚者，“當筆之士或有私好惡焉，則有所考無所避而不欲書，即書，故無當也。”這樣，實錄也就不實了。實錄既然不實，那就史失求諸野吧，可是野史又有三弊，那就是：“一曰挾郤而多誣”，“二曰輕聽而多舛”，“三曰好怪而多誕”。野史也不可信，那就去求之於家乘銘狀吧，可是那又都是些臾枯骨謁金言”。怎麼辦呢?王世貞經過再三考察，認為國史實錄雖不實，但是敘章典、述文獻不可廢；野史雖失真，但是征是非、削諱忌不可廢；家乘銘狀雖有諛枯骨之言，但是潢宗閥、表官績不可廢，於是就隻好沙裏掏金，把國史實錄、野史、家乘等拿來互相參證，考出其正誤了。這樣，他所花費的功夫自然是不淺的。但是正因為他花費了很深的功夫，才為後人掃清了蒙蓋在這些國史實錄、野史、家乘上的迷霧，從而見到了曆史的真實麵貌。舉例來說，有一部《皇明世係》的書，為了幫助明成祖爭正統，說明成祖和周王是明太祖的皇後所生，而建文帝的父親懿文太子和秦、晉諸王都是妃子所生。這自然是不對的，但是為建文帝說話的《革除遺事》一書，說懿文太子和秦、晉、周諸王為皇後所生，而明成祖則為達妃所生。這種說法也是錯誤的。王世貞根據國史和玉牒考證出明成祖和懿文太子及秦、晉、周諸王都是明太祖的嫡子。這樣就還了曆史以本來的麵目，而把那些想在嫡庶問題上做文章，為明成祖或建文帝爭正統的錯誤說法全都掃清了。又如有一部《震澤紀聞》的野史，想要為靖難之變後建文帝出家的傳說作佐證，記了一個故事說，明太祖得到天下後，對劉基說：“你既然輔佐我得到了天下，還有什麼辦法能教我的嫡孫保守住天下呢?”劉基說：“有”。就獻一小篋，用鐵汁灌鎖，送給皇太孫，叫他在危難時刻再打開來看。後來，明成祖的靖難兵打進南京時，建文帝快打開小篋，見裏麵是一件裝裝、一頂伽黎、一把剃刀、一張度牒。於是建文帝頓悟說：“這是劉伯溫教我脫險的辦法。”就化裝成和尚逃出南京。王世貞駁斥這個荒謬的故事說，劉基卒於洪武八年，那時懿文太子還健在，又過了二年建文帝才出生，明太祖怎麼會在即位之初就向劉基詢問使他的嫡孫保守住天下的辦法呢？這種錯誤實在是太可笑了。在《弇山堂別集》的11卷《史乘考誤》中，類似的謬誤被王世貞考證出很多。這不僅可以看出王世貞的史學功底，並且也可以說這11卷書的價值是很大的。