论人工智能透明度原则的法治化实现.pdf

第2期政法论丛No.2

2024年4月ZhengFaLunCongApr.10,2024

【文章编号】1002—6274(2024)02—124—14

论人工智能透明度原则的法治化实现*

张永忠

（华南师范大学法学院、人工智能法律应用重点实验室，广东广州，510006)

【内容摘要】随人工智能应用范围不断扩大，透明度原则成为破解“算法黑箱”难题的钥匙。透明度原则包括形式透

明和实质透明。形式透明是对人工智能基础信息的披露，使人工智能的部署使用处于非秘密状态。实质透明与人

工智能的可解释性息息相关，强调对披露信息以可被理解的方式进行有意义解释，从而打破知识壁垒，使相关信息

实现真正可知。透明度原则应在法治化实现上进行精细考量：在考虑现有技术条件的基础上，有必要根据监管机关

和社会公众的能力不同有区别地对披露和解释的信息内容提出义务要求，并针对不同人工智能的风险程度采取分

级分类分场景的执行标准，从保护用户与公众知情权行使、确保国家监管权落实两方面推动透明度原则实现

透明度原则

【关键词】人工智能治理披露可解释性法治化

【中图分类号】DFO-05【文献标识码】A

引言管。面对日益攀升的人工智能治理压力，世界各国积

极探索人工智能法律规制的共识和方法，而打破“算

人工智能广泛应用于经济、政治、社会及文化等法黑箱”成为国际上积极应对人工智能挑战的主要

领域，深度嵌人人类生活的方方面面，不断影响和发出发点和重要着力点。首届全球人工智能安全峰会

展着人工智能与人类之间的交互模式。在带来经济签署的《布莱切利宣言》强调人工智能治理需要解决

效率、社会福利和生活便利的同时，也产生负面的影“透明度与可解释性”问题。美国在《算法问责法案

响，成为影响社会公平稳定、损害人类福祉的新危险（2022）》中对法案所涵盖的实体提出了透明度义务。

源。例如，谷歌的照片自动识别功能出现种族歧欧盟在《就机器人民事法律规则向欧盟委员会提出

视、1の美国《普林斯顿评论》对亚洲社区收取更高立法建议的报告草案》《可信赖人工智能伦理指南》

SAT备考辅导费、【21]美国阿肯色州医保系统中错误代

等文件中明确强调透明度原则的重要性，提出透明性

码导致部分公民的福利申请被错误削减或驳回，3]p64是实现可信赖人工智能的要素之一,并在数据与人工

以及新媒体软件利用对客户信息的收集并运用算法智能立法中确立具体的规范，例如，《通用数据保护

分析出用户的偏好，从而不断推送相同类型信息造成条例》要求数据处理者要以透明的方式处理个人数

信息“茧房”或制造大量的大数据“杀熟”情况等。据，向数据主体提供法定信息，2023年《人工智能法

人工智能在海量数据和强大算力的支持下，依据案》③与2021年版相比，充实了透明度原则的具体要

严密的算法逻辑，推演生成用户所直接接触的结果。求。在我国,现有的立法文件也体现了对人工智能决

其中，数据集是否完整或具代表性，算法是否合理、公策和算法透明度问题的关注：《个人信息保护法》规

平、严谨、可靠，直接影响着人工智能推演结果的质定了“利用个人信息进行自动化决策，要保证决策的

量。但由于人工智能运行机制的复杂性、技术性和不透明度和结果公平、公正”，《生成式人工智能服务管

透明性使得国际社会和主权国家出现应对新技术的