TCFEII 0019-2024 人工智能融合应用安全可信管理指南.pdf

ICS35.240

CCSL77

团体标准

T/CFEII0019—2024

人工智能融合应用安全可信管理指南

Guidelinesonsecurityandtrustworthymanagementof

artificialintelligenceintegratedapplications

2024-07–22发布2024-07–22实施

中国电子信息行业联合会 发布

T/CFEII0019-2024

目次

前言II

引言III

1范围1

2规范性引用文件1

3术语和定义1

4总则3

4.1指导思想3

4.2管理原则3

5实践指南4

5.1组织制度4

5.2数据管理6

5.3模型开发7

5.4性能质量8

5.5防御机制9

5.6部署运行10

I

T/CFEII0019-2024

前言

本标准按照GB/T1.1—2020《标准化工作导则第1部分：标准化文件的结构和起草规

则》的规定起草。

本标准由中国电子信息行业联合会提出并归口。

请注意本标准的某些内容可能涉及专利，本标准的发布机构不承担识别专利的责任。

本标准起草单位：国家工业信息安全发展研究中心、西安交通大学、清华大学公共管

理学院、北京格灵深瞳信息技术股份有限公司、北京工业大学、北京北信源软件股份有限

公司、北京奇虎科技有限公司、商汤集团有限公司、蚂蚁科技集团股份有限公司、北京百

度网讯科技有限公司、北京昇腾人工智能生态创新中心、北京晴数智慧科技有限公司、北

京神州绿盟科技有限公司、广州广电信息安全科技有限公司、山石网科通信技术股份有限

公司。

本标准主要起草人：张瑶、王淼、邱惠君、李卫、刘永东、张若丹、张振乾、李天舒、

邱颖昭、沈心然、沈超、赵静、陈天博、胡俊、高曦、邹权臣、胡正坤、林冠辰、郭建领、

李天哲、张晴晴、顾杜娟、梁添才、吴疆。

II

T/CFEII0019-2024

引言

人工智能作为数字化转型的重要赋能技术之一，正在与金融、医疗、工业、交通等领

域融合发展。近年来，人工智能应用范围加速拓展，行业渗透率迅速提升。与此同时，人

工智能存在算法、数据、攻防、应用、管理等方面的风险，已暴露出信息泄露、数据滥用、

偏见歧视、实施诈骗等安全风险，引发了社会各界对人工智能安全问题的广泛关注。

本项目在充分研究分析国内外人工智能安全风险治理原则、政策、标准等文件的基础

上，明确人工智能融合应用安全治理的原则和目标，提出能够推动相关治理原则落地的治

理措施和实践指南，旨在推动人工智能健康有序发展。

本标准旨在为各类主体提供人工智能安全可信管理指引，《人工智能融合应用安全可

信度评估规范（系统版）》和《人工智能融合应用安全可信度评估规范（组织版）》将分

别提供面向人工智能系统和面向人工智能开发、应用单位的安全可信度评估框架、方法与

内容，三项标准共同形成人工智能融合应用安全可信系列标准。

对标准中的具体事项，法律法规另有规定的，需遵照其规定执行。

III

T/CFEII0019-