績效考核最初溯始於政府部門，主要用於考核官吏和政府工作人員的政績，我國早在秦漢時期，統治者就開始對官吏實行考課製度——考課製度可以說是績效考核製度的雛形——以考績的標準來約束和激勵官員，以考課結果的優劣來決定對官員的賞罰黜陟，以便勸善戒惡，使考績得以發揮作用。秦代的考課是通過上計製度進行的。所謂的“上計製”，即郡臣在年初把一年的賦稅收入預算寫在木券上，小心謹慎地呈送給國君，因為木券上的內容決定著自己的政治前途。國君把呈上來的木券一分為二，國君拿著右券，臣下拿著左券。合乎標準的留任，不合乎標準的則罷免。上級官吏對下級官吏的考課也采取同樣的辦法。考課後分列等級，宣明優劣，以此作為升遷黜罰的依據。西方的績效考核同樣萌發於公共管理部門，1912年，美國通過了第一部與績效考核有關的法律，這部用於撥款領域的法律要求美國文官委員會（即後來的美國聯邦政府人事管理署）建立一套適用於聯邦政府所有機構的統一的效率評價係統。1923年，《職位分類法》頒布以後，從1924年到1935年，美國政府開始用“圖評價尺度法”來對公務員進行績效評價，不過，盡管這種評價方法比較有效，卻並未得到廣泛的使用。
直至今日，績效考核已經從公共管理領域蔓延到企業管理領域，很多企業將績效考核視為提升企業競爭力的救命稻草，期望像神話中的阿裏巴巴一樣借此“芝麻開門”，全麵提升企業的各項效益。然而，在現實的管理實踐中，績效考核卻讓很多企業高層管理者以及人力資源部門的負責人苦不堪言，他們對於績效考核欲說還羞，使績效考核蒙上了一層灰色的塵埃。索尼公司前常務董事天外伺朗就曾經撰寫了《績效主義毀了索尼》一文，深情闡述了索尼的“績效之痛”——“由於尊崇績效主義，索尼近幾年已經風光不再，並且在一些管理問題上積重難返”，天外伺朗痛定思痛，一一羅列了績效管理對企業造成的負麵影響：
★過於注重績效考核結果與薪酬的關係
“業務成果和金錢報酬直接掛鉤，職工是為了拿到更多報酬而努力工作”，而不再具有過去的奉獻精神。
★出現量化主義導向
“為衡量業績，首先必須把各種工作要素量化。但是工作是無法簡單量化的。公司為統計業績，花費了大量的精力和時間，而在真正的工作上卻敷衍了事，出現了本末倒置的傾向。因為要考核業績，幾乎所有人都提出容易實現的低目標。”
★追求短期利益
“因實行績效主義，索尼公司內追求眼前利益的風氣蔓延。這樣一來，短期內難見效益的工作，比如產品質量檢驗以及‘老化處理’工序都受到輕視。”
★利益主義抬頭，責任感缺失。
“索尼公司不僅對每個人進行考核，還對每個業務部門進行經濟考核，由此決定整個業務部門的報酬。最後導致的結果是，業務部門相互拆台，都想方設法從公司的整體利益中為本部門多撈取好處。”
★不信任感破壞團隊精神
“績效主義企圖把人的能力量化，以此做出客觀、公正的評價。但我認為事實上做不到。它的最大弊端是搞壞了公司內的氣氛。上司不把部下當成有感情的人看待，而是一切都看指標、用‘評價的目光’審視部下……於是大家都極力逃避責任。這樣一來就不可能有團隊精神。”
按照天外伺朗的闡述，績效管理的罪過可謂是罄竹難書，然而，績效考核真的如此劣跡斑斑嗎？其實不然，很多企業因實施績效管理而走向了卓越之路——
因為績效管理——海爾集團將企業目標細化到每位員工的工作，形成了OEC日清體係，使管理人員和員工對自己的工作內容和職責有了充分的了解，PDCA管理方法則保證了工作迅速及時的執行執行，企業最終崛起於中國企業界，產品敲開了國際市場的大門；
因為績效管理——聯想集團通過靜態的職責分解和動態的目標分解，詳細羅列了每一崗位的“崗位責任書”和“目標責任書”，建立了目標與職責一致的崗位考核體係。在“能量化的量化，不能量化的細化”的思想指導下，聯想運用多種方式綜合評價部門業績和員工業績，對幹部和業務的管理采用定期檢查評議的方式，並注重業績核實，用製度化保證了預期目標的實現。
因為績效管理——金地集團在既定的績效管理體係下，實施了有效的績效考核，考核過程公正客觀，不流於形式，由於采用了末位淘汰製，全體員工明白了“逆水行舟、不進則退”的公司管理理念，注重實效，注重競爭，企業保持著奮發的激情。