嘉靖駕崩，海大人很快就平反了，昭雪了。盡管他有了令人景仰的清官聲名，但朝廷裏的主政者，包括新上來的皇帝，都對他敬而遠之。作為門麵點綴可以，要想委以重任則不行，怕海老人家較真，以免弄得大家都不愉快。因為封建社會的統治架構，是一個寶塔形的，由大小官僚組成疊羅漢的方陣。每個官僚在他那個位置上，既踩在下麵那個職務低於他的官僚頭上，自己的頭上又有另一個職務比他高的官僚的腳踩著。因此，一旦其中哪個頭或哪隻腳，不聽話，不服從，不按部就班，不肯買賬搗蛋，這架構就要出現大的小的危機。
他們害怕這個海瑞，進入到這個架構裏來，會破壞這個超穩定的秩序。甚至到了萬曆年間，張居正為首輔，也不敢給他任何任命。“萬曆初，張居正當國，亦不樂瑞，令巡按禦史廉察之。禦史至山中視，瑞設雞黍相對食，居舍蕭然，禦史歎息去。居正憚瑞峭直，中外交薦，卒不用。”
盡管大家眾星捧月，高山仰止，海瑞很不開心，因為日複一日，年複一年，從隆慶皇帝到內閣大臣，不給他分配工作。第一，他沒有鈔票上下打點，鋪平道路；第二，他有清官之名聲，是一個“天將降大任於斯人也”的聖人級人物，不能為，也不屑為。因此，很長時間內，當這種強烈的“立德立言立功”的補天願望不能得到滿足時，便會仰天長嘯，椎心泣血。最後海青天以辭職的辦法要挾內閣給他工作，不給，就寫公開信罵街，“滿朝之士，悉皆婦人”，把主政者罵了個臭夠。
於是，隆慶三年（公元1569年），海瑞被授予正四品，南直隸巡撫，駐蘇州。正如《四庫全書總目提要》一書所言，海瑞是個“不自知其不可通”的死硬派，他不了解社會風氣江河日下；他不知道大廈將圮，隻手難以支撐。一上任，“海忠介清廉特立，自是熙朝直臣。第其為吾鄉巡撫時，有意鋤巨室，以至刁風四起，至不可遏。”（徐樹丕《識小錄》）
由於他的不識時務，實施某種程度上的劫富濟貧政策，搞得蘇州一帶的官僚地主、士紳名流，無不反對，隻好告退，離職還鄉。直到公元1585年，萬曆清算了張居正以後，所有受到張居正排擠打擊過的官員，包括年已七十有二的海青天，一律重新起用。於是，他老人家又從海南島風塵仆仆地來到南京。
接張居正為首輔的申時行，其實並不想安排他，又不能不安排他，因為他已經成為一種正義的化身、民眾的偶像。因此，寫了一封信給海瑞，“維公祖久居山林，於朝為闕典”。那意思是說，你老人家不出山，是個遺憾，但現在把你請出來，也不過起個政治花瓶作用。
但是，他一接手右僉都禦史，報做的第一件事，就是做了兩條大板凳放在公堂之上，宣稱為專打貪贓枉法者和為富不仁者的屁股而設。這位剛愎自用、矯枉過直的老漢，覺得打屁股還不過癮，給皇帝建議，得恢複老祖宗的辦法，凡貪官，都給他剝皮揎草。結果，鬧得輿論嘩然，禦史彈劾他導使皇帝法外用刑。海老碰了一鼻子灰，才悻悻然住手。從此，對這位道德大主教，神宗索性采取供起來的辦法，有職無權，有位無事，直到萬曆十五年（公元1587年）年末，老先生終於在寂寞中悒悒去世。
嗚呼，海剛峰的一生，是一位以肅貪倡廉為己任的鬥士。他本期望他的不懈努力，能對帝國的廉政建設，對官吏的道德重振，有所作為，有所改善。然而，朱明王朝，到了神宗（就是在定陵裏躺著的那位），從上而下的貪汙腐敗風氣，變本加厲，已不可收拾。《明史》說：“明亡，實亡於神宗。”海瑞的所作所為，對腐朽的大明王朝可以說是不起任何作用，隻好看著朱皇帝打下的天下走向衰亡。
紀曉嵐主撰《四庫全書總目提要》，對海瑞《備忘集》，評價不低：“孤忠介節，實人所難能，故平日雖不以文名，而所作勁氣直達，侃侃而談，有凜然不可犯之勢。當嘉、隆間士風頹靡之際，切墨引繩，振頑醒聵，誠亦救時之藥石，滌穢解結，非林黃、芒硝不能取效，未可以其峻利疑也。”但對海瑞具體的所作所為，也有不能苟同之處。譬如說他“巡撫應天，銳意興革，裁抑豪強，唯以利民除害為事，而矯枉過直，或不免一偏”。譬如說他“力以井田為可行，謂天下治安必由於此，蓋但睹明代隱匿兼並之弊，激為此說，而不自知其不可通”。
不管怎麼評價海瑞，但他“卒時，僉都禦史王用汲入視，葛幃敝，有寒士所不堪者。因泣下，醵金為斂。小民罷市，喪出江上，白衣冠送者夾岸，酹而哭者百裏不絕。”（《明史》）
就海瑞臨終的一兩個鏡頭看，對這樣一位終身貧窮而為百姓追念的清官，也足以使我們後人欽敬的了。