T_ISC 0056-2024 人工智能 加速卡技术要求及测试方法.docx

ICS31.200CCSL56

团体标准

T/ISC0056—2024

人工智能加速卡技术要求及测试方法

Artificialintelligence—Technicalrequirementsandtestingmethodsforacceleratingcard

2024-09-03发布2024-10-03实施

中国互联网协会发布

T/ISC0056—2024

I

目次

前言 II

1范围 1

2规范性引用文件 1

3术语和定义 1

4缩略语 3

5概述 3

6技术要求 4

6.1加速卡通用技术要求 4

6.2训练卡技术要求 4

6.3推理卡技术要求 8

6.4加速卡安全性要求 11

7测试环境 11

7.1测试对象 11

7.2测试组网 11

7.3系统配置 12

7.4环境条件 14

8测试方法 14

8.1预置条件 14

8.2通用技术要求测试 14

8.3训练卡测试 17

8.4推理卡测试 22

8.5安全性测试 27

附录A（资料性）系统配置 29

A.1操作系统 29

A.2深度学习框架 29

A.3参考测试用例 29

A.3.1训练场景 29

A.3.2推理场景 30

T/ISC0056—2024

II

前言

本文件按照GB/T1.1—2020《标准化工作导则第1部分：标准化文件的结构和起草规则》的规定

起草。

本文件由中国互联网协会归口。

本文件起草单位：中国移动通信集团有限公司、中国互联网协会人工智能工作委员会、中国信息通信研究院、北京智源人工智能研究院、上海燧原科技股份有限公司、中科寒武纪科技股份有限公司、上海天数智芯半导体有限公司、南方电网人工智能科技有限公司、国能数智科技开发（北京）有限公司、中国石油化工集团有限公司、中移（苏州）软件技术有限公司、华为技术有限公司、海光信息技术股份有限公司、摩尔线程智能科技（北京）有限责任公司、新华三技术有限公司、曙光信息产业股份有限公司、北京智谱华章科技有限公司、广州趣丸网络科技有限公司、北京百度网讯科技有限公司、中讯邮电咨询设计院有限公司、浪潮通信技术有限公司。

本文件主要起草人：冯俊兰、邓超、邓凯、曹峰、门春雷、金镝、秦日臻、董昊、马建华、李青懋、靳震、曹汐、梅敬青、王思善、赵淑静、王辉、余雪松、胡铭珊、任正国、张晓东、赵学良、马德营、张久仙、张亚丽、杨鹏霖、肖国峰、万晓兰、贺群、冯涛、张顺四、蒋晓琳、申佳、尹梦君。

T/ISC0056—2024

1

人工智能加速卡技术要求及测试方法

1范围

本文件规定了人工智能加速卡的技术要求，包括人工智能加速卡的通用技术要求、人工智能训练卡和推理卡的功能要求、性能要求、兼容性要求、可靠性要求、性能度量指标，以及人工智能加速卡的安全性要求，并给出了人工智能训练卡和推理卡的测试环境及测试方法。本文件规定的技术要求主要面向于数据中心或服务器使用的人工智能加速卡。

本文件适用于人工智能加速卡的生产方、评测方、使用方等对加速卡进行设计、测试、评估、选型和应用。

2规范性引用文件

下列文件中的内容通过文中的规范性引用而构成本文件必不可少的条款。其中，注日期的引用文件，仅该日期对应的版本适用于本文件；不注日期的引用文件，其必威体育精装版版本（包括所有的修改单）适用于本文件。

GB/T9813.3-2017计算机通用规范第3部分：服务器

GB/T17235.1-1998信息技术连续色调静态图像的数字压缩及编码第1部分：要求和指南GB/T34986-2017产品加速试验方法

GB/T37092-2018信息安全技术密码模块安全要求GB/T41867-2022信息技术人工智能术语

GB/T42018-2022信息技术人工智能平台计算资源规范GM/T0008-2012安全芯片密码检测准则

GM/T0028-2014密码模块安全技术要求

YD/T3944-2021人工智能芯片基准测试评估方法

YD/T4398-2023电信行业云原生平台架构与技术要求

T/CESA1303-2023人工智能异构人工智能加速器统一接口

ISO/IE