欧盟《人工智能法案》：重点内容、评价与启示.pdfVIP

欧盟《人工智能法案》：

重点内容、评价与启示

■文/李阳阳何光喜（中国科学技术发展战略研究院）

2024年3月13日，欧洲议会投票通过《人为过早扼杀创新的过度监管。这对我国人工智能

工智能法案》（EUArtificialIntelligence监管和市场完善、前沿技术引进和企业出海、中

Act），被指“标志着欧盟扫清了立法监管人工智美欧人工智能治理对话具有启示作用。

能的最后障碍”，2024年5月21日，欧盟理事会正

一、欧盟《人工智能法案》重点内容解读

式批准《人工智能法案》。下一步，该法案将由

欧盟议会主席和理事会主席签署，并在欧盟官方（一）人工智能的风险分级监管

公报上公布，在公布后20天生效。欧盟官员称之法案根据风险程度将人工智能（AI）分为以

为“世界上第一部针对可信人工智能的全面、具下四类：一是含有不可接受风险内容的人工智能

有约束力的法规”。欧盟《人工智能法案》（以将被禁止，如远程生物识别、面部识别数据库、

下简称法案）历时三年最终出台，引起全球广泛歧视性的社会评分系统和具有操纵性的AI，需要

讨论。本文梳理了法案的主要内容，基于布鲁盖司法授权和尊重基本权利；二是高风险的AI系统

尔研究所和美国信息技术与创新基金会对该法案将受到监管，如医疗、教育、交通、就业和司法

的评估，围绕法案的核心目标，从潜在风险、开等重要的社会或经济领域，可能对人的生命、健

源监管、竞争与版权三方面分析了法案的适用康、安全或基本权利造成重大影响的系统，在上

性。研究发现，法案存在不完整性，“未能为人市前必须进行强制性的合格评估，遵守质量、透

工智能开发人员和部署者提供法律确定性，还可明度、人工干预、监督和纠正等一系列原则和义

能产生高昂的合规成本”，使开源模型监管问题务；三是较少部分为有限风险的AI系统，将受到

更为复杂化。下一步的具体实施措施的走向将决较少的透明度义务限制，即开发者和部署者必须

定该法案能否刺激可信人工智能的创新，还是沦确保用户知道他们正在与AI（例如聊天机器人和

科技中国2024年5月第5期5

深度伪造视频）交互；四是仅有最小风险的人工限场景，很难评估全部风险并为所有可能的用途

智能系统，可以获得监管豁免（包括目前欧盟市设计法规，因此，基于产品安全和基本权利标准

场上大多数的AI应用，例如AI增强的视频游戏和的简单监管组合并不适用于这类人工智能模型。

垃圾邮件过滤器）。风险分类后，AI监管大部分在风险分类监管方面，大多数人工智能应用

的义务落在高风险系统的提供者（开发者），包仍可能被认为风险最小且不受监管；法案的大部

括：意在欧盟市场上销售或投入使用高风险AI系分内容侧重于对高风险人工智能的监管，这类内

统的提供者，无论其是否在欧盟境内或第三国；容介于有限风险和不可接受风险之间。在通用人

以及在欧盟境内使用高风险AI系统输出的第三国工智能（GPAI）模型监管方面，开源模型是否免

提供者。于技术审查，取决于是否被判定为具有“系统性

（二）通用AI（GPAI）的监管要求