人工智能责任的法律与经济学.pdfVIP

●经典译介

人工智能责任的法律与经济学

[瑞]米里亚姆·布伊滕（MiriamBuiten），[比]亚历山大·德·斯特

里尔（AlexandredeStreel），[德]马丁·佩茨（MartinPeitz）著

张韬略陈沪楠译

摘要：人工智能系统的应用对责任规则提出了挑战，需要辨识这些挑战，评估责任规则的调整方式，以

应对这些挑战。首先，人工智能系统的不可预测或（半）自主运行的特征会引发责任漏洞；其次，当生产者难

以预见人工智能系统的瑕疵以及使用者的监控职责也难以界定时，人们在证明过错和因果关系方面会遭遇问题；

再次，从经济学的角度探讨哪些责任规则能够最大限度地降低与人工智能相关的损害成本；最后，基于对风险

和最优责任规则的分析，对欧盟最近发布的《产品责任指令》和《人工智能责任指令》提案进行评估。

关键词：人工智能责任；欧盟法；人工智能法；产品责任指令

中图分类号：DF0-052文献标识码：A文章编号：1674-9502202404-0124-29

（）

作者：米里亚姆·布伊滕（MiriamBuiten），欧洲监管中心研究员、圣加仑大学法学院助理教授；亚

历山大·德·斯特里尔（AlexandredeStreel），那慕尔大学法学院教授、欧洲监管中心数字研究项目学术

主任；马丁·佩茨（MartinPeitz），曼海姆大学经济系教授、曼海姆竞争与创新中心主任。

译者：张韬略，同济大学法学院互联网与人工智能法律研究中心副教授、博士生导师；陈沪楠，同济大

学法学院互联网与人工智能法律研究中心助理研究员。

一、引言

人工智能（AI）系统有望在多个领域提高社会福祉和效率，包括医疗、交通和消费品。人工智

能系统可提供解决问题的新方法并具备更好的决策潜力。但人工智能的潜在缺点之一是人类难以预

测这些系统可能产生的错误，尤其是这些系统以（半）自主的方式运行时，人类对其运行的掌控将

更少。因此，当人工智能应用具有不可预测性和自主性的特征时，它们很难被纳入现有的责任框架

之中。a

本文提出人工智能对现有责任规则的挑战，评估了责任规则应如何调整以应对这些问题，重点

讨论了如何就人工智能相关损害在生产者和使用者之间进行责任的分配。特别是，本文重点探讨了

原文发表于ComputerLawSecurityReview.2023Vol.48.(105794-105813)。依据CC许可证进行发布（/

licenses/by/4.0/）。

·124·

人工智能责任的法律与经济学

在人工智能行为无法合理预见的情况下什么构成过错，在人工智能设计与损害之间没有可预测联系

的情况下如何证明因果关系，以及在人工智能系统以（半）自主方式运行的情况下如何界定生产者

与使用者的责任。本文以欧盟委员会 2022 年 9 月发布的提案为对象，探讨了这些问题。该提案旨在

a，并为人工智能系统的使用者引入具体的欧盟责任规则。虽然《产品责任指令》

审查《产品责任指令》

拟议审查旨在澄清数字经济中的产品责任概念，而拟议的《人工智能责任指令》b则寻求规定涉及人

工智能系统诉请的具体程序规则。

本文探讨了这些欧盟提案在界定谁应承担责任、适用何种责任标准以及协调欧盟的程度方面是

否达到了平衡，同时还审查了专门针对人工智能的非合同责任规则的必要性，并思考这些规则与其

他监管工具的相互作用。本文的规范框架基于对法律的经济分析，其中涉及责任规则将如何影响生

产者、使用者和其他受损者积极性的思考。

本文结构如下：第一部分为引文；第二部分阐述了更广泛的监管框架，包括与责任规则互补的

相关安全监管、适用于欧盟成员国的一般责任标准，以及欧盟对生产者与人工智能使用者责任的提

案；第三部分辨析了人工智能独特特征所导致的责任漏洞；第四部分探析了有效的AI责任规则，讨

论了哪些主体应承担责任以及何种责任标准是有效的；第五部分更细致地讨论了哪