6-科技伦理-样例-人工智能推荐系统中的大数据杀熟-古天龙-20220621.pdf

人工智能伦理样例：推荐系统中的大数据杀熟

古天龙暨南大学

能力的评估：本案例能够置于Bloom分类法知识维度的“元认识知识”位置，学生学习后能

够达到Bloom分类法认知过程维度的“评估”层次。

一、本案例课程思政的关注点

1.本案例内容在计算学科课程思维总体框架中的位置

2.本案例属于学科设计形态中的社会与职业的问题。算法歧视是由数据和算法分析导致

的对特定群体的，系统的、可重复的、不公正的对待。平等与自由共同构成现代法治的基础，

公正是现代文明国家的价值追求，算法歧视令特定群体遭遇系统性的不公正对待，在起点上

违背平等的理念，在终点上导致不公正的后果，从根本上违背平等和公正的社会主义核心价

值。

3．《中华人民共和国电子商务法》第18条第1款规定“电子商务经营者根据消费者的兴

趣爱好、消费习惯等特征向其提供商品或者服务的有哪些信誉好的足球投注网站结果的，应当同时向该消费者提供不

针对其个人特征的选项，尊重和平等保护消费者合法权益”，算法歧视违反了上述宪法和法

律中相关条款的要求和规定。

4.在本案例中，要求教师将CC2020报告中11个品行元素中的“责任、专业性”与该

案例绑定在一起进行可操作性解释。责任：在设计人工智能的推荐系统时，要求专业人员应

该有基本的责任道德意识，能够对算法歧视造成的直接或间接后果有足够的认识，不做这种

有违消费者权益的事。专业性：要求学生能从专业的角度回应“大数据杀熟”对社会造成的

冲击和危害，支持各类组织和个人监督平台企业的歧视性定价行为，促进平台规范、诚信经

营，推动互联网平台的良性发展。

二、本案例的具体内容

“大数据杀熟”是推荐系统中存在的一种典型的偏见歧视方式，是指企业分析和预测消

费者大数据，对不同对象收取不同价格的行为，尤其是，对于同样商品或服务，老客户得到

的价格，反而高于新客户，亦即，老客户被“杀熟”。

目前“大数据杀熟”已呈泛化趋势，不局限于对熟客的“宰杀”。经营者通过大数据分

析与用户画像，可以针对任何其所认为的“对价格不敏感”的用户实施差别定价。互联网企

业掌握了大量个人信息、行为习惯等数据后，判断其偏好、用户黏合度、价格敏感度等，利

用大数据技术实现“千人千面”，使不同用户看到不同的价格或有哪些信誉好的足球投注网站到不同的结果，从而被

“杀熟”，这也被称为“杀熟二代”。杀熟二代中的“熟”，已经不是“熟客”，而是被平

台充分掌握个人信息的“熟人”。“大数据杀熟”一般是指交易价格的差别待遇，因此“大

数据杀熟”一般被定性为“差别定价”或“价格歧视”。

价格歧视（PriceDiscrimination）实质上是一种价格差异，通常指商品或服务的提供者

在向不同的接受者提供相同等级、相同质量的商品或服务时，在接受者之间实行不同的销售

价格或收费标准。经营者没有正当理由，就同一种商品或者服务，对若干买主实行不同的售

价，则构成价格歧视行为。

根据差别定价的程度，英国经济学家庇古（ArthurCecilPigou）把价格歧视区分为三个

等级：

（1）一级价格歧视（First-degreePriceDiscrimination）又称为完全价格歧视，即，销售

者为每一位顾客及其所购买的每一单位商品制定不同的价格，因此获取所有的消费者剩余。

一级价格歧视比较少见。

（2）二级价格歧视（Second-degreePriceDiscrimination），即，销售者对购买者偏好的

多样性有所了解，但是不能观察到每一位特定顾客的特性。即便如此，仍然有可能通过提供

一系列包括价格和各种条款的销售合同，在不同的购买者之间进行价格歧视。

（3）三级价格歧视（Third-degreePriceDiscrimination）又称为作指示选择（Selectionby

Indicators），即，有时企业拥有关于顾客的信息，特别是关于顾客愿意支付的价格的信息。

如果购买者的特性是可以观察到的，那么销售者就可以制定不同的价格，此时，价格就可以

看作购买者特性的函数。三级价格歧视是最普遍的价格歧视形式。三级价格歧视中销售者将

购买者分组，对每一组制定不同的价格，这种行为也称为市场分割（MarketSegmentation）。

1.滴滴“苹果税”

2020年，复旦大学管理学院副教授孙某带领研究团队在五座城市打了800多趟车，花

费50000多元，搜集到滴滴、曹操、首汽、美团和高德