T HBSEA 016—2025 AI端侧设备算力模型适配测试规范.pdfVIP

湖北省软件企业协会

团体标准

T/HBSEA016—2025

AI端侧设备算力模型适配测试规范

AdaptationtestingspecificationsforcomputingpowerandmodelsofAIenddevices

2025-02-27发布2025-02-28实施

湖北省软件企业协会发布

目录

前言1

引言2

AI端侧设备算力模型适配测试规范3

1范围3

2规范性引用文件3

3术语、定义和缩略语3

3.1术语和定义3

3.2缩略语5

4测试项目概述5

5测试通用要求6

5.1测试框架6

5.2测试原则6

5.3AI端侧设备基础参数7

5.4测试场景7

5.5测试环境部署9

5.6分级分模型测试说明10

6测试步骤10

6.1基础能力测试10

6.2算力测试12

附录13

AI端侧设备算力模型适配测试规范

1范围

本文件规定了AI端侧设备的算力与其可承载的AI模型的适配性测试方法。

本文件适用于AI端侧设备算力模型适配性评估。

2规范性引用文件

下列文件中的内容通过文中的规范性引用而构成本文件必不可少的条款。

其中，标注日期的引用文件，仅该日期对应的版本适用于本文件；不注日期的

引用文件，其必威体育精装版版本（包括所有的修改单）适用于本文件。

GB/T5271.1-2000信息技术词汇第1部分:基本术语

GB/T11457-2006信息技术软件工程术语

YD/T3944-2021人工智能芯片基准测试评估方法

T/CESA1121-2020人工智能芯片面向端侧的深度学习芯片测试指标与测

试方法

T/CESA1169-2021信息技术人工智能服务器系统性能测试规范

3术语、定义和缩略语

3.1术语和定义

3.1.1

以数据获取及本地处理为主要特征的场景。

3.1.2

布置在端侧场景以数据获取及本地处理为主要功能的设备，如摄像头、移动

通信终端、机器人、无人机、可穿戴设备等。

3.1.3

表现出人类智能(如推理和学习)相关的各种功能的功能单元和能力。

[来源:GB/T5271.28-2001，28.01.02]

3.1.4

机器学习中一种对数据进行表征学习的方法。通过组合低层特征形成更加抽

象的高层表示属性类别或特征，以发现数据的分布式特征表示。

[来源:ISO/ECTR29119-11:2020(en)，3.1.26]

3.1.5

通过设计科学的测试方法、测试工具和测试系统，实现对一类测试对象的某

项性能指标进行定量的和可对比的测试。

3.1.6

在机器学习中，推理通常指将训练过的模型应用于无标签样本，进而来做出

预测的过程。

3.1.7

模型训练的一次迭代(即一次梯度更新)中使用的样本集。

3.1.8

一个批次中的样本数。批次大小在训练和推理期间通常是固定的。

3.1.9

数据集中用于训练或推理运算的单个对象，可以是一副图片或一句语句。

3.1.10

一组被一同送入训练或推理系统的N个样本，N为正整数。

注:例如，单次作业包含了8张图片。

3.2缩略语

下列缩略语适用于本文件：

AI人工智能ArtificialIntelligence

BLEU双语评估替补