TCFEII 0020-2024 人工智能融合应用安全可信度评估规范（系统版）.pdf

ICS35.240

CCSL77

团体标准

T/CFEII0020—2024

人工智能融合应用安全可信度评估

规范（系统版）

Assessmentspecificationforsecurityandtrustworthinessof

artificialintelligenceintegratedapplications

（Systemedition）

2024-07–22发布2024-07–22实施

中国电子信息行业联合会发布

T/CFEII0020-2024

目次

前言III

引言IV

1范围1

2规范性引用文件1

3术语和定义1

4评估框架2

4.1模型构成3

4.2评估等级3

5评价方法4

6评估内容4

6.1数据4

6.1.1准确性4

6.1.2无偏性4

6.1.3代表性4

6.1.4可追溯4

6.1.5合规性5

6.2模型5

6.2.1解释性5

6.2.2鲁棒性5

6.2.3公平性5

6.2.4可追溯6

6.2.5向善性6

6.3性能6

6.3.1精准性6

I

T/CFEII0020-2024

6.3.2可靠性6

6.3.3无害性7

6.4防御7

6.4.1风险管理7

6.4.2可信环境7

6.4.3攻击防范7

6.4.4控制机制7

6.4.5应急计划8

6.5沟通8

6.5.1规范使用8

6.5.2交互反馈8

6.6责任9

6.6.1职责确立9

6.6.2人员培训9

附录A人工智能融合应用安全可信度评估分级方法10

A.1概述10

A.2评估指标体系构建10

A.2.1构建原则10

A.2.2构建步骤10

A.3加权评分方法10

A.3.1权重设置10

A.3.2加权评分10

A.4分级判定参考11

A.4.1人工智能融合应用安全可信度一级11

A.4.2人工智能融合应用安全可信度二级11

A.4.3人工智能融合应用安全可信度三级11

A.4.4人工智能融合应用安全可信度四级11

A.4.5人工智能融合应用安全可信度五级12

II

T/CFEII0020-2024

前言

本标准按照GB/T1.1—2020《标准化工作导则第1部分：标准化文件的结构和起草规

则》的规定起草。

本标准由中国电子信息行业联合会提出并归口。

请注意本标准的某些内容可能涉及专利，本标准的发布机构不承担识别专利的责任。

本标准起草单位：国家工业信息安全发展研究中心、西安交通大学、清华大学公共管理

学院、北京格灵深瞳信息技术股份有限公司、北京工业大学、北京北信源软件股份有限公司、

北京奇虎科技有限公司、商汤集团有限公司、蚂蚁科技集团股份有限公司、北京百度网讯科

技有限公司、北京昇腾人工智能生态创新中心、北京晴数智慧科技有限公司、北京神州绿盟

科技有限公司、北京中科睿鉴科技有限公司、广州广电信息安全科技有限公司、北京中银（深

圳）律师事务所。

本标准主要起草人：邱惠君、张瑶、王淼、刘永东、李卫、李天舒、张