AI 服务器行业深度：驱动因素、市场机遇、产业链及相关企业深度梳理（2024）.docx

行业研究报告

行业研究报告慧博智能投研

行业|深度|研究报告 2024年3月8日

AI服务器行业深度：驱动因素、市场机遇、产业链及相关企业深度梳理

AI服务器主要用于处理深度学习工作负载的海量数据，包括需要大内存容量、高带宽和整体系统内缓存一致性的训练和推断。相较于普通服务器，AI服务器新增多张高性能加速器（绝大部分为GPU），拥有更高的计算能力、更快的处理速度和更大的存储空间，以支持高负载和复杂的计算任务。

在当前大模型升级所带来的参数量指数级增加的情况下，AI训练+推理段模型需求催生了AI服务器海量需求。根据Statista数据，2021年全球服务器市场规模达到831.7亿美元，同比增长6.97%，其中AI服务器市场达到156.3亿美元，同比增长39.1%。AI服务器有望成为服务器板块增速最快的细分板块，

预计AI服务器市场将在2026年达到347.1亿美元，5年CAGR达到17.3%。

那么，对于AI服务器，当下呈现怎样的市场现状呢？有哪些影响因素驱动着中国市场AI服务器进一步向前发展？AI服务器行业产业链上下游情况如何？市场对于哪些板块有发展机遇？其AI服务器行业市场格局如何？相关企业发展情况怎样？整体市场呈现怎样的产业前景？以下内容我们将聚焦这些问题，一起探究AI服务器行业的相关问题。

目录

一、行业概况 1

二、驱动因素 6

三、产业链分析 9

四、市场机遇 14

五、竞争格局 17

六、相关企业 18

七、产业前景 23

八、参考研报 26

一、行业概况

1、人工智能服务器为算力支撑，助燃AI产业化

（1）从通用服务器到AI服务器的过渡

AI服务器在众多服务器中脱颖而出源于其架构优势。AI服务器是承载智慧计算中AI计算的核心基础设施，是一种能够提供人工智能的数据服务器，既可以用于支持本地应用程序和网页，也可以为云和本地服务器提供复杂的AI模型和服务，通过异构形式适应不同应用范围以及提升服务器的数据处理能力，

异构方式包括CPU+GPU/TPU/ASIC/FPGA。

1/26

2/26

行业|深度|研究报告 2024年3月8日

AI服务器的发展脱胎自通用服务器的性能提升需求。复盘主流服务器的发展历程，随着数据量激增、

数据场景复杂化，诞生了适用于不同场景的服务器类型：通用服务器、云计算服务器、边缘计算服务器、AI服务器。随着大数据、云计算、人工智能及物联网等网络技术的普及，充斥在互联网中的数据呈现几何倍数的增长，使得以CPU为主要算力来源的传统服务器承受着越来越大的压力，并且对于目前CPU

的制程工艺而言，单个CPU的核心数已经接近极限，但数据的增加却还在继续，因此服务器数据处理能力必须得到新的提升，在这种环境下，AI服务器应运而生。面对ChatGPT所引出的大规模预训练模型，AI服务器以其架构优势带来的大吞吐量特点，有望在一众服务器中脱颖而出。

（2）AI服务器中CPU+GPU协同工作，相较普通服务器算力明显提升

3/26

行业|深度|研究报告 2024年3月8日

AI训练模型算力提升速度突破极限，目前英伟达训练型AI服务器一般配备8个GPU。随着以

chatGPT为代表的AI的发展，训练GPT-3、Megatron-TuringNLG530B等超大语言模型所要求的算力提升速度已经突破了后摩尔定律算力提升速度的极限，尽管CPU不断升级，但CPU制程以及单个CPU和核心数量接近极限，仅依靠CPU无法满足算力需求。CPU的内核数量大约数十个，但GPU具备成千上万个CUDA核心，因此GPU多个内核决定了其能够在相同的价格和功率范围内，比CPU提供更高的指令吞吐量和内存带宽，GPU能够并行执行成千上万个线程（摊销较慢的单线程性能以实现更大数据吞吐量）。在训练AI模型的过程中，需要同时对所有样本数据执行几乎相同的操作，GPU架构设计能够很好满足AI场景需求。AI服务器相较通用服务器的一个明显差别之一是增加了GPU，通用服务器一般含有1-2个CPU、不含GPU，而当前英伟达训练型AI服务器一般搭载8个GPU。

AI服务器GPU需要CPU来