AI芯片产业研究报告 2024 - 英赛富咨询.pdf

AI芯片产业研究报告

一、AI芯片分类

AI芯片，作为一种专门为人工智能应用设计的高性能微

处理器，其主要目的是满足深度学习、机器学习等复杂计算

任务的需求。这类芯片能够在有限的时间内处理大量数据，

并高效地执行大量并行计算。通过提供强大的计算能力，AI

芯片为神经网络的训练和推理提供了基础支持。

AIGPUFPGAASICGPU

按照不同技术架构芯片可分为、、。

最初是专门用于游戏图形加速，但它们可以用于加速深度学习和

神经网络的训练和推理。FPGA是可重新配置的硬件，可以专门

AIASICAI

定制用于特定的任务。是专用芯片，能够提供比通

用处理器更高的效率和性能。

AI

不同技术架构的芯片技术特性对比如下：

图1-不同技术架构AI芯片对比

——1

二、AI芯片微架构

AI芯片是由硬件实现的一组图形函数的集合，这些函数

主要用于绘制各种图形所需要的运算。这些和像素、光影处

理、3D坐标变换等相关的运算由GPU硬件加速来实现。图形

运算的特点是大量同类型数据的密集运算——如图形数据的

矩阵运算，GPU的微架构就是面向适合于矩阵类型的数值计算

而设计的，大量重复设计的计算单元，这类计算可以分成众

多独立的数值计算—大量数值运算的线程，而且数据之间没

有像程序执行的那种逻辑关联性。

图2-Nvidia芯片Ampere架构

AI芯片微架构的设计研发是非常重要的，先进优秀的微

架构对实际性能的提升是至关重要的。目前市面上有非常丰

富的AI芯片微架构，比如Pascal、Volta、Turing（图灵）、

Ampere（安培）、Hopper，分别发布于2016年、2017年、

2018年、2020年、2022年，代表着英伟达GPU的最高工艺

——2

水平。

GPU微架构的运算部份由流处理器(StreamProcessor，

SP)、纹理单元（Texturemappingunit,TMU)、张量单元

（TensorCore）、光线追踪单元（RTCores）、光栅化处理

单元（ROPs）组成。这些运算单元中、张量单元、光线追踪

单元由NVIDIA在伏特/图灵微架构引入。

Nvidia不同架构AI芯片性能对比如下：

图3-Nvidia不同架构GPU性能对比

三、IT行业AI芯片应用

（一）“云-边-端”协同应用框架

——3

图4-AI云-边-端协同应用框架

如图4所示，AI芯片应用已形成规范的“云-边-端”协

同应用场景框架，可分为云计算层、边缘层、终端层3个层

面。云计算层主要承载云端训练和云端推理任务，包括智能

数据分析、模型训练任务等。边缘计算层负责范围内的数据

计算和存储工作；同时负责将连续数据汇总至计算层，最终

由云计算层完成分析挖掘、数据共享工作，下发结果或模型

至边缘和终端层。终端层主要承担推理任务，包括数据收集、

环境感知、人机交互以及部分推理决策控制任务等。

（二）不同场景AI芯片需求

按照“云-边-端”应用场景框架，不同层面芯片性能需

求、特性需求差异显著。云端芯片具有高吞吐率、高处理能

力、高精度、低时延、可扩展、高内存高带宽的特性。边缘

端芯片性能、稳定性、扩展性均在云端芯片和终端芯片之间。

终端芯片具有体积小、低时延、低能耗、低成本、高安全性

的特性。

具体情况如