人工智能安全框架（2020年）.pdf

人工智能安全框架

（2020年）

中国信息通信研究院安全研究所

2020年12月

版权声明

本报告版权属于中国信息通信研究院，并受法律保护。

转载、摘编或利用其它方式使用本报告文字或者观点的，应

注明“来源：中国信息通信研究院”。违反上述声明者，本

院将追究其相关法律责任。

微信公众号：计算机与网络安全

牵头编写单位：中国信息通信研究院安全研究所

参与编写单位：北京瑞莱智慧科技有限公司

北京百度网讯科技有限公司

腾讯科技（深圳）有限公司

三六零安全科技股份有限公司

中国科学院信息工程研究所

编写组成员：魏亮、魏薇、景慧昀、彭志艺、张旭东、

董胤蓬、王海棠、唐佳伟、邹权臣、张德岳、杨勇、刘水生、

马多贺、徐世真、唐家渝、萧子豪、吴月升、黄超、唐梦云、

陈昊、郝利民、孙振强、曹亮、刘昭、钱佳宇、周川、陈凯

微信公众号：计算机与网络安全

前言

人工智能作为引领新一轮科技革命和产业变革的战略性技术，正

成为世界主要国家推动科技跨越式发展、实现产业优化升级、赢得全

球竞争主动权的重要战略抓手。随着全球人工智能规模化建设和应用

加速，人工智能基础设施、设计研发以及融合应用面临的安全风险日

益凸显。世界主要国家纷纷通过制定人工智能伦理准则、完善法律法

规和行业管理等方式开展人工智能安全治理。人工智能安全技术体系

是人工智能安全治理的重要组成部分，是落实人工智能伦理规范和法

律监管要求的重要支撑，是人工智能产业健康有序发展的重要保障。

人工智能安全框架是构建人工智能安全技术体系的重要指南，旨

在为人工智能相关企业循序渐进提升安全能力、部署安全技术措施提

供指导。在工业和信息化部网络安全管理局指导下，中国信息通信研

究院联合瑞莱智慧、百度、腾讯、360、中科院信工所共同编制《人

工智能安全框架（2020年）》蓝皮书。本蓝皮书针对全球人工智能

安全框架缺失问题，凝聚业界专家共识，聚焦当前人工智能突出安全

风险，提出涵盖人工智能安全目标，人工智能安全分级能力，以及人

工智能安全技术和管理体系的人工智能安全框架，期待为社会各方提

升人工智能安全防护能力提供有益参考。

微信公众号：计算机与网络安全

目录

一、人工智能安全现状1

(一)人工智能安全挑战1

(二)人工智能风险地图3

(三)人工智能安全技术现状6

(四)人工智能安全框架缺失11

二、人工智能安全框架12

(一)设计思路12

1.框架范围12

2.设计原则12

3.核心要素13

(二)安全框架14

(三)框架分析17

1.安全目标17

2.安全能力18

3.安全技术23

4.安全管理24

三、人工智能安全技术实施28

(一)业务安全28

1.业务合规性评估28

2.安全攻击检测28

3.业务安全机制30

4.恶意应用检测31

(二)算法安全32

1.算法鲁棒性增强32

2.算法公平性保障35

3.算法可解释性提升36

4.算法知识产权保护37

5.算法安全评测38

微信公众号：计算机与网络安全

(三)数据安全39

1.数据隐私计算39