2024人工智能安全治理实践方案.docx

人工智能风险治理报告

——构建面向产业的人工智能安全治理实践方案

（2024年）

2024年12月

目录

目

录

一、概述 1

（一）人工智能风险挑战引发全球关注 1

（二）人工智能风险治理模式亟需创新 3

（三）推动面向产业界的人工智能风险治理落地框架迫在眉睫 4

二、人工智能风险认知渐进深化 6

（一）人工智能内生安全与衍生安全复杂交织 6

（二）人工智能风险认知迈向多维度深化融? 9

三、人工智能风险治理全球实践 12

（一）国际层面：加速推进风险治理行动及作 12

（二）主要经济体：迭代完善风险划分与管控举措 14

（三）产业组织：协同推进治理框架和安全工具 17

（四）企业主体：深化技管融的风险应对方案 18

四、面向产业的人工智能风险治理实践方案 19

（一）打造全链条人工智能风险治理框架 19

（二）提升人工智能风险系统治理能力 21

（三）设立人工智能风险精准识别机制 23

（四）健全人工智能风险科学评估体系 25

（五）完善人工智能风险敏捷应对方案 27

五、展望建议 29

（一）促进全球作，共筑人工智能治理新格局 29

（二）优化治理体系，夯实人工智能安全发展基础 30

（三）发挥桥梁作用，推进行业治理标准化与动态化 30

（四）强化内外协同，助力技术创新与责任共担 31

图1人工智能风险治理框架 5

图2人工智能内生安全和衍生安全 7

图3人工智能风险认知趋势 9

图4面向产业的人工智能风险治理实践方案 20

人工智能风险治理报告（2024

人工智能风险治理报告（2024年）

PAGE

PAGE10

一、概述

（一）人工智能风险挑战引发全球关注

人工智能是引领这一轮科技革命和产业变革的战略性技术，具有溢出带动性很强的“头雁”效应。当前，人工智能牵引工业、医疗、教育、交通、金融、文化等各领域提质增效，成为社会经济高质量发展的重要支撑和前进动能。然而，人工智能技术在重塑全球经济与社会格局的同时，也带来了多元风险挑战。根据美国斯坦福大学

《2024年人工智能指数报告》统计，2023年全球共发

生123起与人工智能滥用相关的重大事件，比2013年增长了近20倍，并呈现持续增长态势1。与此同时，人工智能风险的波及范围和影响程度也显著加大。国际货币基金组织《生成式人工智能：人工智能与未来就业》报告指出，全球40%的工作将受到人工智能的影响2；奇安信《2024人工智能安全报告》显示，2023年基于人工智能的深度伪造欺诈暴增3000%，钓鱼邮件增长1000%3。

人工智能技术释放红利与应用风险显露并存，全球领域人工智能治理进程持续加速。国际组织和主要经济体在人工智能治理方面主动作为，联?国通过联国大会将共识理念凝聚为决议文件，并通过组建人工智能高级别咨询机构以讨论形成全球?作的具体行动方案；经济?作与发展组织（OECD）研究、评查全球国家如何落实人工智能原则；金砖国家正推动成立人工智能研究小组以促进作和负责任的

治理；人工智能安全峰会为人工智能安全治理提供全球对话平台。此外，政府驱动的人工智能风险治理逐渐完备。根据加拿大咨询公司FairlyAI追踪结果显示，截至2024年12月，全球人工智能相关政策法规已达317份4；产业驱动的人工智能标准化行动更加密集，全球陆续出台355项人工智能标准5，目前尚有更多标准处于规划和制定过程之中。

我国在人工智能治理中侧重风险研判与防范，并积极为国际社会贡献“中国方案”。总体上，中国为全球人工智能治理积极贡献力量。从习近平总书记在“一带一路”高峰论坛提出《全球人工智能治理倡议》，到中国在联?国大会上主提的《人工智能能力建设普惠计划》，包含主权平等、发展导向、以人为本、普惠包容、协同作等深刻内涵的人工智能治理原则不断传播，为国际社会提供了统一、先进、普适的作框架与实践指引。举措上，中国加快完善人工智能治理体系，2024年7月，党的二十届三中全会《中共中央关于进一步全面深化改革推进中国式现代化的决定》中提出建立“人工智能安全监管制度”，体现出我国统筹发展与安全，体系化应对人工智能安全风险的谋划。我国已经通过《生成式人工智能服务管理暂行办法》《国家人工智能产业综?标准化体系建设指南（2024版）》等部门规章与标准规划，保障人工智能技术的健康有序发展。

（二）人工智能风险治理模式亟需创新

随着人工智能技术的飞速进步，技术风险不确定性增大。自2022年ChatGPT发布以来，大模型能力愈发突出，人工智能领域迎来了前所未有的投资热潮。然而，随着技术应用复杂度的增加，风