分布式异构智能算力的管理和调度技术研究报告.pdf

分布式异构智能算力的管理和调度技术

研究报告

研究单位：中国移动研究院、浪潮电子信息产业股份有限公司、

新华三技术有限公司

完成日期：2023年12月

1

目录

一、研究背景3

二、异构算力的发展和应用场景需求4

（一）异构算力的发展情况4

（二）异构算力的主要应用场景7

三、分布式异构算力管理和调度的关键技术能力9

（一）异构算力的虚拟化和池化10

（二）分布式异构算力的调度能力13

（三）分布式异构算力的度量和标识16

四、当前业界技术实现情况17

（一）中国移动智算体系实现异构资源池化18

（二）浪潮AIStation平台实现异构资源管理调度19

（三）新华三傲飞平台实现异构资源管理调度22

五、总结与展望24

参考文档26

2

一、研究背景

随着我国数字经济规模总量的不断攀升，实体经济、数字经济和

信息服务的深度融合正加速产业数字化和数字产业化变革。算力作为

承载信息数据的重要基础设施，已成为全社会数字化转型的重要基

石。根据中国信息通信研究院必威体育精装版发布的《中国算力发展指数白皮书

20232023178.5EFlops

（年）》显示，至年我国智能算力规模达到，

增速为72%，在我国算力占比达59%，成为算力快速增长的驱动力；

据IDC等机构预测，至2025年，新增数据量180ZB，其中80%的增

长来自于文本、图片、语音、视频等非结构化的数据。随着人工智能、

元宇宙、高性能计算等领域的发展，激发了更多智能数据处理的需求

和场景，对新型智能算力的需求激增。

本研究围绕典型智能计算应用对异构算力的协同及调度需求，研

究泛在异构算力参与训练或推理过程的协同需求、调度需求，研究泛

在异构算力参与训练或推理过程的协同需求，包括异构算力类型、规

模要求、性能要求、网络要求、数据传输要求等，分析异构算力协同

3

的应用场景等特点，考虑同数据中心、跨数据中心、跨云边端多级、

池化和非池化异构算力并存等各种场景下，算力协同的需求及可行

性。研究分析异构算力资源分类整合、池化重构和智能分配等技术方

案。

研究分布式异构算力资源管理技术方案，包括管理跨数据中心、

GPUFPGA

边缘及端侧的、等异构算力设备，已虚拟化或池化的异构

硬件，研究对异构算力资源进行标识和监控的方案，对算力进行细力

度切分供给的技术方案，研究对计算任务进行异构算力匹配和调度的

技术方案。包括如何匹配差异化的计算任务到相应的异构算力节点，

如何支持异构算力资源高效和细粒度分配，基于应用场景的负载差异

性，建立面向多样化异构算力资源和上层多场景需求的多元异构算力

统一调度架构，统一资源实时感知，抽象资源响应和应用调度。研究

AI

分布式框架支持分布式异构算力的管理和调度技术方案。

二、异构算力的发展和应用场景需求

（一）异构算力的发展情况

CPUGPUFPGAASIC

异构算力通常是指、、、等多种不同的算

力处理体系，能够满足不同场景中的应用需求，实现计算效力最大化。

AIAIAI

异构算力通常以芯片的形态被集成在计算机中，芯片是算

力的核心基础设施之一。近年来，面向特定领域体系结构的定制化芯