人工智能风险治理报告（2024年）.pdfVIP

人工智能风险治理报告

——构建面向产业的人工智能安全治理实践方案

（2024年）

中国信息通信研究院人工智能研究所

2024年12月

版权声明

本报告版权属于中国信息通信研究院，并受法律保护。

转载、摘编或利用其它方式使用本报告文字或者观点的，应

注明“来源：中国信息通信研究院”。违反上述声明者，本院

将追究其相关法律责任。

前言

人工智能技术以其前所未有的发展态势引领新一轮科技革命和

产业变革，深度驱动经济社会发展。技术跃迁释放价值红利，与此同

时带来风险挑战。2023年10月，习近平主席提出《全球人工智能治

理倡议》，其中着重指出，做好风险防范，不断提升人工智能技术的

安全性、可靠性、可控性、公平性。人工智能风险治理已经成为把握

未来人工智能发展的核心要素，也是全人类需要共同应对的时代课题。

当前，全球各界积极探索人工智能风险治理之道。本报告广泛汲

取国际行动、各经济体努力、产业实践等各方经验，勾勒新时代下人

工智能风险认知的演进路径，提炼出人工智能风险认知正向全球性融

合、前瞻性考量、系统性分析、交叉性联动不断深化。通过深入分析

全球人工智能风险治理多元共治的实践经验，我们深刻认识到，将人

工智能风险治理的方案落实到技术革新、产品开发和应用部署中去，

是回应社会关切、解决突出矛盾、防范安全风险的必然选择，也是关

系到人工智能长远发展的重要议题。

本报告结合国际经验，立足我国产业实践，提出“系统治理-风险

识别-风险评估-风险应对”的人工智能风险治理实践框架，实现穿透

式风险管控与全链条流程管理的深度融合，为人工智能产业主体对于

技术发展与安全保障提供解决方案。鉴于人工智能技术应用日新月异，

本报告对人工智能风险治理的认识仍有未尽之处，恳请大家批评指正。

目录

一、概述1

（一）人工智能风险挑战引发全球关注1

（二）人工智能风险治理模式亟需创新3

（三）推动面向产业界的人工智能风险治理落地框架迫在眉睫4

二、人工智能风险认知渐进深化6

（一）人工智能内生安全与衍生安全复杂交织6

（二）人工智能风险认知迈向多维度深化融合9

三、人工智能风险治理全球实践12

（一）国际层面：加速推进风险治理行动及合作12

（二）主要经济体：迭代完善风险划分与管控举措14

（三）产业组织：协同推进治理框架和安全工具17

（四）企业主体：深化技管融合的风险应对方案18

四、面向产业的人工智能风险治理实践方案19

（一）打造全链条人工智能风险治理框架19

（二）提升人工智能风险系统治理能力21

（三）设立人工智能风险精准识别机制23

（四）健全人工智能风险科学评估体系25

（五）完善人工智能风险敏捷应对方案27

五、展望建议29

（一）促进全球合作，共筑人工智能治理新格局29

（二）优化治理体系，夯实人工智能安全发展基础30

（三）发挥桥梁作用，推进行业治理标准化与动态化30

（四）强化内外协同，助力技术创新与责任共担31

图目录

图1人工智能风险治理框架5

图2人工智能内生安全和衍生安全7

图3人工智能风险认知趋势9

图4面向产业的人工智能风险治理实践方案20

人工智能风险治理报告（2024年）

一、概述

（一）人工智能风险挑战引发全球关注

习近平总书记指出，人工智能是引领这一轮科技革命和产业变革

的战略性技术，具有溢出带动性很强的“头雁”效应。当前，人工智

能牵引工业、医疗、教育、交通、金融、文化等各领域提质增效，成

为社会经济高质量发展的重要支撑和前进动能。然而，人工智能技术

在