政策算法決定你是好人還是惡棍
資訊
作者:王玥嬌 編輯 徐臻
“細思恐極”的劇情從來不是出於想象
美劇《疑犯追蹤》中,一位富商為政府開發的“機器”可以預測“有計劃犯罪”,工作原理是從各種渠道收集資訊,解讀其中人類行為的含意,也就是全天監視所有人並采集可疑的關鍵詞。
這樣令人“細思恐極”的劇情並非出於想象。
《芝加哥論壇報》曾刊登一則報道:2013年,22歲的芝加哥市民羅伯特·麥克丹尼爾在自己家受到警告,警察勸他在行事上收斂一些,因為他已被算法列入“未來暴力犯罪疑犯”名單,其依據可能是假釋狀態、社交網絡及與暴力犯罪親近程度等一係列數據。
這可不是穀歌網頁排名算法。政策算法(尤其是像法律執行、福利、兒童保護這類公眾服務)更像是門衛。它們調節對公眾資源的使用,評估風險,並將人群分成“值得”和“不值得”、“可疑”和“不可疑”各種類別。
開發政策算法的初衷來自提升效率及執行的一貫性,但預測性治安維護所依賴的數據基礎,卻是長久以來法律執行過程中存在的種族不平等等漏洞。
美國奧爾巴尼大學助理教授弗吉尼亞·尤班克斯對維護政策算法公平提出了四點建議:更多地了解算法是如何工作的;考慮算法的政治環境;認識算法的缺陷是如何積累的,以及最重要的——尊重法律。
政策算法既非法律也非人類,發生錯誤在所難免,但最令人不安的是算法沒有同理心。尤班克斯認為,並非所有治理都要基於數據統計,政策算法的確高效、清晰,但不該隻是數字遊戲,更應該是一項我們盡一切力量去完成的人類事業。¢