算法歧视的多维形成及其伦理治理--基于承认理论的分析.pdfVIP

摘要

算法歧视是指由算法自动决策所产生的一种直接或间接的歧视行为，是以利益不承

认为其直接表现形式，基于不恰当的价值选择和价值判断，伴随着工程师的情感疏离和

排斥而形成的一种数字化和符号化的价值表达。算法歧视产生的风险远非传统科技所能

比拟，对算法歧视的治理也成了当代社会治理的重点。

算法歧视的形成可以从利益、情感、价值三个维度进行分析。在利益维度上，算法

歧视源于利益上的不承认，这种不承认消解了利益的“公共性”，进而带来利益分配上

不公平。在情感维度上，算法歧视表现为算法设计过程中对对象的抽象化和数字化，这

种简化致使算法设计者和算法用户之间失去情感上的连接，被置于主体思维关照之外，

得不到承认。在价值维度上，算法歧视源于算法设计者对正常价值秩序的偏离，他否定

异于自身价值的价值，并将否定性的价值想象成为受歧视对象的特征，这种错位的价值

对应就会导致价值不承认。

在这个意义上，算法歧视源于承认的缺失。承认理论要求实现多个层面的相互承认，

在规范和经验相结合的基础上重构社会正义理论。承认理论之所以能够成为算法歧视治

理的理论逻辑，是因为承认概念本身就包含着正义原则。承认理论对算法歧视的消解表

现为权力的赋予、情感的依附和共有的价值取向。算法歧视伦理治理的关键在于为算法

确定一个内在的价值尺度。利益承认能够保障成员最基本的参与权和社会福利权，使成

员能以公平方式参与社会福利的分配。情感承认能够避免成员成为边缘性的群体，构建

共同体中成员间的平等关系。价值承认关注成员之间的个性差异，确保每个成员的特殊

性都能够获得他人的认可，从成员的特殊性和多样性出发给予他们应有的重视。

将承认作为一种伦理原则纳入治理中，是对算法歧视进行伦理治理的基本路径。根

据霍耐特的三种承认形式，对算法歧视进行治理应当确定制度的规范性、情感的依附性

和价值的普遍性。为此，我们应当共同价值的引领下，在平等的基础上进行商谈、共同

制定、共同遵守伦理规范和社会制度，实现利益分配的平等。

关键词：算法歧视，伦理治理，承认理论

I

II

ABSTRACT

Algorithmdiscriminationreferstoakindofdirectorindirectdiscriminationresultingfrom

algorithmautomaticdecision-making.Itisakindofdigitalandsymbolicvalueexpressionbasedon

impropervalueselectionandvaluejudgmentandaccompaniedbyemotionalalienationandexclusionof

engineers.Theriskscausedbyalgorithmicdiscriminationarefarbeyondthatoftraditionaltechnology,and

thegovernanceofalgorithmicdiscriminationhasalsobecomethefocusofcontemporarysocial

governance.

Theformationofalgorithmicdiscriminationcanbeanalyzedfromthreedimensions:interest,

emotionandvalue.Inthedimensionofinterests,algorithmicdiscriminationstemsfromthe

non-recognitionofinterests.Thisnon-recognitiondissolvesthepublicityofinterests,andthenleadsto

unfairdistributionofinterests.Intheemotionaldimension,algorithmicdiscriminationisman