斯坦福：反思人工智能时代的隐私问题（中文版）.docx

白皮书

2024年2月

反思人工智能时代

的隐私问题

以数据为中心的世界

詹妮弗·金·卡罗琳·迈因哈特

白皮书在人工智能时代

作者

JenniferKing是斯坦福大学以人为中心的人工智能研究所（HAI）的隐私和数据政策研究员。作为国际公认的信息隐私专家，她的研究探讨了公众对在线隐私的理解和期望，以及包括人工智能在内的新兴技术的政策影响。她最近的研究探讨了通知和同意的替代方案（与世界经济论坛合作），加州新隐私法的影响以及操纵设计（黑暗模式）。

她还共同指导了斯坦福大学的DarkPatternsTipLine存储库在加入HAI之前，她曾于2018年至2020年担任斯坦福大学法学院互联网与社会中心的消费者隐私总监博士金在加州大学伯克利分校信息学院完成了信息管理和系统（信息科学）博士学位。

CarolineMeinhardt是斯坦福大学以人为中心的人工智能研究所（HAI）的政策研究经理，她在那里开发和监督政策研究计划。她热衷于利用人工智能治理研究，为确保全球人工智能安全和负责任发展的政策提供信息，重点研究人工智能发展的隐私影响，人工智能监管的实施挑战以及大规模人工智能模型的治理。在加入HAI之前，Caroline曾担任专注于中国的顾问和分析师，管理并提供有关中国发展和监管新兴技术（包括人工智能）的深入研究和她拥有斯坦福大学国际政策硕士

她的研究重点是人工智能的全球治理解决方案，并获得剑桥大学中国研究学士

致谢

作者要感谢BrendaLeong、CobunZweifel-Keegan、JustinWest、KevinKlyman和DanielZhang提供的宝贵反馈，感谢NicoleTong和ColeFord提供的研究协助，感谢JeaninaCasusi、JoeHinman、NancyKing、ShanaLynch、CarolynLehman和MichiTurner准备出版物。

免责声明

斯坦福大学以人为中心的人工智能研究所（HAI）是一个无党派的研究机构，代表了一系列的声音。本白皮书中表达的观点反映了作者的观点

2

白皮书在人工智能时代

目录

作者

作者2

致谢2

目录3

执行摘要.4

第一章：导言5

第2章：数据保护和隐私：

关键概念和监管环境7

a.公平信息实践原则：

数据保护和隐私背后的框架9

b.一般数据保护条例：

数据保护的

c.美国州隐私法：填补联邦隐私真空12

d.预测AI与生成式AI：一个拐点

资料保障规例第14

第三章挑衅与预言17

a.数据是AI系统的基础

这将需要更大量的数据17

b.人工智能系统对个人和

社会隐私需要对条例采取新办法

c.现行私隐法例的保障资料原则

将对人工智能发展产生隐含但有限的影响22

d.中明确的算法和基于AI的规定

现有法律不足以解决隐私风险25

e.结束语29

第4章：减轻AI隐私危害的建议31

建议1：默认情况下取消数据收集的规范化33

建议二：聚焦AI数据供应链，

改善隐私和数据保护36

建议3：改变个人资料管理的模式41

第五章：结论45

尾注46

白皮书在人工智能

时代

3

4

白皮书在人工智能时代

执行摘要

在本文中，我们提出了一系列关于现有和未来隐私和数据保护法规将如何影响人工智能系统开发和部署

数据是所有AI系统的基础展望未来，人工智能的发展将继续增加开发人员对训练数据的渴望，从而推动比过去几十年更大的数据采集竞赛。

大量无限制的数据收集对隐私造成了超越个人层面的独特风险，它们聚集在一起构成了社会层面的危害，无法单独通过行使个人数据权利来解决。

虽然基于全球公认的公平信息实践（FIP）的现有和拟议的隐私立法隐含地规范了人工智能的发展，但它们不足以解决数据采集竞赛以及由此产生的个人和系统性隐私伤害。

即使是包含算法决策和其他形式人工智能的明确规定的立法，也没有提供有意义地规范人工智能系统中使用的数据所需的数据治理措施。

我们就如何减轻人工智能的开发和采用所带来的数据隐私风险提出了三点建议：

1.默认情况下，通过从选择退出数据收集转变为选择加入数据收集，使数据收集非规范化数据收集者必须通过“默认隐私”战略促进真正的数据最小化

2.专注于人工智能数据供应链，以改善隐私和数据保护。确保整个生命周期的数据集透明度和问责制必须成为任何解决数据隐私问题的监管体系的重点。

3.翻转关于创建和管理个人数据的脚本决策者应支持发展新的治理机制和技术基础设施（例如，数据中介和数据许可基础设施），以支持个人