人工智能安全标准体系（V1.0）（征求意见稿）.pdf

人工智能安全标准体系

（V1.0）

（征求意见稿）

全国网络安全标准化技术委员会秘书处

2025年01月

目录

一、体系架构1

二、重点领域4

（一）基础共性4

（二）安全管理5

（三）关键技术7

（四）测试评估9

（五）产品与应用10

三、组织实施11

附件1：《人工智能安全治理框架》标准映射表13

附件2：人工智能安全现行及在研标准文件17

附件3：人工智能安全标准重点方向明细表30

一、体系架构

人工智能安全标准体系旨在支撑落实《人工智能安全治

理框架》（以下简称“《框架》”），围绕《框架》中明确

的模型算法安全、数据安全、系统安全三类内生安全风险，

以及网络域、现实域、认知域、伦理域四类应用安全风险，

系统梳理了可帮助防范化解相关人工智能安全风险的重点

标准，同时与网络安全国家标准体系进行有效衔接，加强人

工智能安全标准工作顶层设计，以科学、合理的标准布局前

瞻应对各类风险挑战，促进人工智能技术及应用健康发展。

体系内各项标准与《框架》中各类风险的映射关系见附件1。

人工智能安全标准体系主要由基础共性、安全管理、关

键技术、测试评估、产品与应用等5个部分组成，体系框架

如图1所示。

1、基础共性类标准是以标准工作支撑落实《框架》的

重要保障，主要规范了人工智能安全术语定义、分类分级、

通用要求、参考架构等方面内容，是人工智能安全的基础性、

总体性标准。

2、安全管理类标准围绕《框架》中明确的模型算法安

全、数据安全、系统安全三类内生安全风险，以及在人工智

能系统开发、应用、运行、维护等生命周期各环节面临的安

全风险，提供了覆盖全过程全要素的安全管理标准。

3、关键技术类标准紧扣人工智能相关技术发展情况，

主要规范了生成式人工智能安全、智能体安全、具身智能安

—1—

全、多模态安全、生成合成安全、安全对齐、安全围栏等方

面内容，为人工智能技术健康发展保驾护航。

4、测试评估类标准主要规范人工智能安全能力测试、

模型安全性测试、产品服务安全测试、场景应用安全测试、

安全测试基准等方面内容，以测试评估工作帮助提升人工智

能安全水平。

5、产品与应用类标准主要规范个人应用、重点行业应

用等方面内容，保障人工智能技术在各行业、各领域的安全

应用。

—2—

人工智能安全标准体系

A基础共性B安全管理C关键技术D测试评估E产品与应用

AAAAABBBBBBBBBCCCCCCCCDDDDDDEEE

ABCDEABCDEFGHIABCDEFGHABCDEFABC

术分通参其模数系开应运供风其生智具多生安安其安模产场安其个行其

语类用考他型据统发用行应险他成能身模成全全他全型品景全他人业他

定分要架算安安安安安链管式体智态合对围能安服应测应应

义级求构法全全全全全安理人安能安成齐栏力全务用试用用

安