政策算法決定你是好人還是惡棍
資訊
作者：王玥嬌 編輯 徐臻
“細思恐極”的劇情從來不是出於想象
美劇《疑犯追蹤》中，一位富商為政府開發的“機器”可以預測“有計劃犯罪”，工作原理是從各種渠道收集資訊，解讀其中人類行為的含意，也就是全天監視所有人並采集可疑的關鍵詞。
這樣令人“細思恐極”的劇情並非出於想象。
《芝加哥論壇報》曾刊登一則報道：2013年，22歲的芝加哥市民羅伯特·麥克丹尼爾在自己家受到警告，警察勸他在行事上收斂一些，因為他已被算法列入“未來暴力犯罪疑犯”名單，其依據可能是假釋狀態、社交網絡及與暴力犯罪親近程度等一係列數據。
這可不是穀歌網頁排名算法。政策算法（尤其是像法律執行、福利、兒童保護這類公眾服務）更像是門衛。它們調節對公眾資源的使用，評估風險，並將人群分成“值得”和“不值得”、“可疑”和“不可疑”各種類別。
開發政策算法的初衷來自提升效率及執行的一貫性，但預測性治安維護所依賴的數據基礎，卻是長久以來法律執行過程中存在的種族不平等等漏洞。
美國奧爾巴尼大學助理教授弗吉尼亞·尤班克斯對維護政策算法公平提出了四點建議：更多地了解算法是如何工作的；考慮算法的政治環境；認識算法的缺陷是如何積累的，以及最重要的——尊重法律。
政策算法既非法律也非人類，發生錯誤在所難免，但最令人不安的是算法沒有同理心。尤班克斯認為，並非所有治理都要基於數據統計，政策算法的確高效、清晰，但不該隻是數字遊戲，更應該是一項我們盡一切力量去完成的人類事業。￠