算法歧視是人工智慧自動化決策中，由數據分析導致的對特定群體的，系統的、可重複的、不公正對待。算法歧視正在人工智慧技術套用的多個場域出現,對受害群體及整個社會有著多重不利影響。
2022年3月17日，國家網信辦表示將嚴厲打擊算法違法違規行為，督促整改算法不合理套用帶來的“算法歧視”等影響網民生產生活的問題。
基本介紹
- 中文名：算法歧視
- 釋義：由數據分析導致的對特定群體的不公正對待
突出表現,特殊特徵,治理之道,整治行動,
突出表現
其一，價格歧視。例如，早在2000年，某網站就曾經搞過算法“殺熟”，同一款DVD碟片，對老用戶報價26.24美元，對新用戶僅報價22.74美元。近年來，我國一些網購平台利用大數據“殺熟”的現象也是屢見不鮮。
其二，性別歧視。例如，某網站研發了一套篩選簡歷的算法系統，結果顯示其對男性求職者有著明顯的偏好，女性求職者的簡歷常常分數不高。
其三，種族歧視。例如，某國外著名網站上的高薪工作廣告更多地向白人顯示；智慧型照相機在照相時不停提醒亞裔睜開眼睛等。此外，基於宗教信仰、經濟狀況、外貌等形式的算法歧視也廣泛存在。
特殊特徵
其一，算法歧視更加精準。算法能夠對每個用戶精準畫像，被打上歧視標籤的用戶絕無逃脫可能。
其二，算法歧視更加多元。人類歧視通常依據的是性別、學歷等顯形特徵，但算法能夠挖掘出更加深層次的隱形特徵來作為其歧視處理的依據，包括網頁瀏覽記錄、購物記錄、行車路線等。
其三，算法歧視更為片面。人類社會對於個體的判斷通常是綜合和動態的，而算法無法獲取或處理用戶的全部數據。
其四，算法歧視更加隱蔽。傳統基於種族、性別、民族等特徵的歧視是法律所禁止的，但算法卻可以規避這些規定。
治理之道
首先，完善算法的法律規制。一方面，規範算法利用的範圍、方式和限度。對於算法歧視，既要從公法層面嚴厲制裁濫用算法的企業等主體，也可以考慮在司法層面引入大規模侵權規則和懲罰性賠償規則。與此同時，對於高度敏感的數據應當禁止算法處理，包括種族、民族、宗教信仰等。另一方面，要賦予用戶更多的權利。用戶可以通過被遺忘權來刪除過時的數據，通過更正權來補充或更改錯誤或不完整的數據。還應參照歐盟《一般數據保護法》的規定，賦予用戶拒絕權和解釋權，即如果用戶認為算法的自動化決策存在歧視，那么其有權拒絕接受處理結果。
其次，重視算法的技術規制。面對日新月異的人工智慧技術，依靠單一的法律規則來應對算法歧視是難以奏效的。對此，建議引入算法的倫理設計，從一開始就將算法透明、算法可解釋、算法問責、算法審計等價值需求嵌入算法的設計當中。相較於法律的事後救濟，算法的倫理設計更強調預防的重要性，要求設計者在算法的設計階段遵守禁止歧視的法律和倫理規則，並通過自然語言將法律語言嵌入到算法的全生命運行周期中。
最後，探索算法規制的市場路徑。傳統理論認為，算法公平與企業的營利目標是衝突的，企業沒有動力推動算法公平的實現。然而，隨著用戶對於算法公平的需求越來越強烈，市場將會淘汰那些濫用算法的企業。對此，企業可以通過發布透明度報告等方式來公布算法公平指數，以贏得用戶信任。此外，公權力機關通過投資和採購的方式，也可以引導企業提高算法公平指數，減少算法歧視的發生。
整治行動
2022年3月17日，國家網信辦網路管理技術局局長於永河在國務院新聞辦新聞發布會上答記者問時表示，將嚴厲打擊算法違法違規行為，督促整改算法不合理套用帶來的“算法歧視”等影響網民生產生活的問題。
