人工智能生成内容标识制度的逻辑更新与制度优化.pdf

求是学刊2024年第1期

·新兴权利法律问题研究·

人工智能生成内容标识制度的

逻辑更新与制度优化

张凌寒，贾斯瑶

摘要：生成式人工智能正在颠覆人们获取信息的方式，但生成内容的质量良莠难辨。随着

用户生成内容时代的分流治理机制失效，标识制度应成为人工智能内容治理的核心，发挥“生

成来源+真伪判断”的双轨提示作用。占据信息优势地位的模型开发者、服务提供者应履行内

容安全保障义务与信息质量披露义务，主动修正虚假信息引发的用户认知挤压、心理冲击等

问题。在具体标识制度优化迭代中，应设计人工智能生成内容质量光谱标识，要求对生成来

源、责任主体、内容质量进行强制标识，以激活标识制度在信息内容筛选的实质作用。

关键词：生成式人工智能；标识制度；内容治理；信息辨认；虚假信息

作者简介：张凌寒，中国政法大学数据法治研究院教授、博士生导师（北京100088）；贾斯瑶，

中国政法大学数据法治研究院博士研究生（北京100088）

基金项目：国家社科基金重点项目“生成式人工智能的法律定位与分层治理研究”（23AFX009）

DOI编码：10.19667/23-1070/c.2024.01.010

一、问题的提出“：是否AI生成”的标识制度无法满足内容治理需求

生成式人工智能已经颠覆人类获取信息方式，并预期2026年AIGC将占据未来互联网内容的

①

90%。OpenAI公司推出的对话式人工智能ChatGPT展现出了卓越的语言生成、信息创造能力，其生成

②

的信息在外观上具有可信赖度，用户会越来越习惯、依赖和信任人工智能提供的回答。基于此，对人

工智能生成信息进行标识显得尤为必要。

我国尝试设立了深度合成内容的标识制度。《互联网信息服务算法推荐管理规定》第九条要求，算

法推荐服务者建立健全用于识别违法信息、不良信息的特征库，未作显著标识的算法生成合成信息的，

①SeeEuropolInnovationLab：“Facingreality？LawEnforcementandtheChallengeofDeepfakes”，PublicationsOffice

oftheEuropeanUnion，2022，p.5.

②参见徐伟：《论生成式人工智能服务提供者的法律地位及其责任——以ChatGPT为例》，《法律科学》2023年第4

期，第70页。

-112-

①

应当作出显著标识后方可继续传输。《互联网信息服务深度合成管理规定》提出了内容标识管理要

②③

求，《生成式人工智能服务管理暂行办法》同样强调了服务提供者有义务对生成内容进行标识。与此

同时，这也是各国共同采取的生成式人工智能内容治理方式。如美国白宫《人工智能行动令》第1条强

调，要求为人工智能制定新的安全标准，要求人工智能公司与联邦政府分享安全测试结果，同时指示商

务部为人工智能水印制定指南。其商务部将制定内容认证和水印的指南，以明确标记AI生成的

④

内容。

然而，“是否AI生成”的标识思路远远无法应对生成式人工智能带来的挑战：第一，人工智能生成

内容具有巨量性，生成速度快、生成内容覆盖领域广泛，具有可迭代性与可扩展性，人工审核的速度及

能力远远难以匹敌。第二，人工智能生成内容外观具有高度可信赖性，极易被认为是“知识权威”。人

工智能生成内容信息外观仿真度高，人工智能信息的生成逻辑以模拟真实信息为终点，在信息表面的

文字表述、语言结构等方面与真实信息无异。在美国乘客Roberto起诉哥伦比亚航空公司的案件中，代

理律师Schwartz引用了ChatGPT生成的六个案例，当他向ChatGPT求证这些案例是否属实时，机器人称