202404月整理-大模型治理蓝皮报告（2023年）——从规则走向实践.docx

z

z

大模型治理蓝皮报告

——从规则走向实践

（2023年）

中国信息通信研究院政策与经济研究所

中国科学院计算技术研究所智能算法安全重点实验室2023年11月

版权声明

本报告版权属于中国信息通信研究院、中国科学院，并

受法律保护。转载、摘编或利用其它方式使用本报告文字或者观点的，应注明“来源：中国信息通信研究院、中国科学院”。违反上述声明者，编者将追究其相关法律责任。

前言

近一年来，以ChatGPT为代表的大模型技术引发通用人工智能新一轮发展热潮，在带动大规模产业升级、劳动力转移、产品的分配机制等方面均带来深刻变革，成为改变世界竞争格局的重要力量。与此同时，围绕人工智能治理的议题探讨显著增多，全球人工智能治理体系加速构建。党中央国务院高度重视人工智能治理工作，作出一系列重要部署。习近平总书记强调，要共同做好风险防范，形成具有广泛共识的人工智能治理框架和标准规范，不断提升人工智能技术的安全性、可靠性、可控性、公平性。寻找大模型治理的准确定位，构建适应技术发展趋势的治理体系愈加重要且迫切。

面对大模型带来的新问题新挑战，传统监管模式面临着AI自主演化控制难、迭代快速跟进难、黑箱遮蔽追责难等问题，一劳永逸的事前监管模式已经难以应对不断推陈出新的人工智能发展需求。从治理框架来看，敏捷治理成为回应大模型技术快速迭代的重要治理模式，软硬法协调、多主体协同的治理需求更为突出。构建高质量数据集、创新知识产权制度、探索价值对齐实现方式、维护信息内容安全等成为各方关注的热点问题。美国、欧盟、英国等主要国家和地区加紧推进人工智能治理布局，共同寻求具有共识和互操作性的治理规则。我国围绕人工智能发展、安全、治理三方面提出《全球人工智能治理倡议》，通过算法备案、评估评测、事后溯源检测等方式，推动人工智能治理从规则走向实践，为全球提供人工智能治理中国方案。希望研究成果为社会各界进一步参与大模型治理实践提供有益参考。

目 录

一、大模型治理的重要性紧迫性凸显 1

（一）大模型技术浪潮兴起 1

（二）大模型引领数字化变革 3

（三）大模型带来的典型风险 5

二、技术变革下大模型治理框架日渐明朗 11

（一）治理模式：敏捷治理成为国际较为通行的治理方案 11

（二）治理主体：激励多元主体协同治理成为全球共识 14

（三）治理机制：软硬兼施推进大模型治理 18

三、聚焦大模型治理核心议题规则 22

（一）数据治理规则 23

（二）知识产权保护 32

（三）伦理问题治理 36

（四）信息内容治理 40

四、把握全球大模型治理必威体育精装版动态趋势 42

（一）美国从松散碎片式治理逐步趋向体系化治理 42

（二）欧盟继续发挥人工智能治理领域布鲁塞尔效应 45

（三）英国力图以促进创新的监管方法引领全球治理 49

（四）国际组织在大模型治理国际合作中各显其能 52

五、探索我国大模型治理的主要落地工具 55

（一）事前备案 55

（二）事中全流程评估 57

（三）事后溯源检测 60

六、完善我国大模型治理体系的思路建议 63

（一）确立促进创新的人工智能敏捷治理理念 64

（二）聚焦人工智能场景应用细化制度方案 64

（三）立足当前治理实践创新人工智能治理工具 65

（四）激励企业积极管控风险以推动平台合规 66

（五）促进全球人工智能合作治理体系构建 67

大模型治理蓝皮书—从规则走向实践（2023

大模型治理蓝皮书—从规则走向实践（2023年）

PAGE

PAGE10

一、大模型治理的重要性紧迫性凸显

（一）大模型技术浪潮兴起

当前，世界人工智能领域科技创新异常活跃，日益成为改变世界竞争格局的重要力量。一批里程碑意义的前沿成果陆续突破，以ChatGPT为代表的大模型技术引发通用人工智能新一轮发展热潮。

对大模型的基本认识

大模型（LLM，LargeLanguageModel）指的是具有超大参数规模，建立在多头自注意力机制Transformer架构之上，以深度神经网络为基础，用海量文本数据预训练而成的语言模型。以ChatGPT为代表的大模型能够模拟人类的创造性思维，生成具有一定逻辑性和连贯性的语言文本、图像、音频等内容。大模型基于大数据、大算力、多模态的技术优势，实现从感知世界、理解世界向创造世界的跃迁，推动人类社会加速迈向人机共生的智能社会阶段。

大模型体现出三方面技术趋势：一是从决策式AI到生成式AI。决策式AI主要是通过分类回归对数据进行分析，主要应用于图像识别、推荐系统、决策智能体等领域。生成式AI借助Transformer架构等，具有全局表征能力强、高度并行性、通用性强、可扩展性强