产业观察03期：算力产业研究系列(三)，AI将成为芯片国产化的最大机会.docx

目录

TOC\o1-3\h\z\uHBM对解决带宽墙、内存墙非常关键 3

HBM的主要特点是高带宽、高内存密度、低功耗 4

HBM能有效解决带宽墙、内存墙 7

解决“带宽墙”问题 8

解决“内存墙”问题 8

AI将成为芯片国产化最大机会 9

AI时代对芯片需求的变化为国产化提供了机会 9

未来推理的大规模落地也将利好国产芯片 11

风险提示 11

HBM对解决带宽墙、内存墙非常关键

HBM对高性能芯片非常重要。HBM是否能成为制约高性能芯片的关键因素的讨论源自近期大摩存储空头ShawnKim发布的报告。据财联社，Shawn自2024年7月对DRAM的看法较为悲观。ShawnKim认为DRAM期货价格会在2025年Q1出现2年来第一次环比下降、2025年HBM竞争和供给会加强、中国不仅会有DDR5，且认为在2026

年，长鑫会超越镁光成为全球第三大DRAM厂商。

HBM（HighBandwidthMemory）是一种以高带宽、低功耗为特点的存储技术。随着数字化时代的发展，计算应用日益展现出多样化的趋

势，高性能计算、图形渲染、AI等应用对于计算能力的需求不断提升，传统的存储技术难以满足高速增长的计算需求，HBM应运而生。

相比于传统的平面排列，HBM运用独特的3D堆叠设计，垂直堆叠多层DRAM芯片，通过硅通孔（TSV）技术进行连接，使各层内存实现高速连接与数据传输。通过3D堆叠技术，HBM在降低物理空间占用的同时，大幅提升了带宽与容量。2.5D封装的技术，大幅降低了数据传导距离，减少了能源损耗。

图1：海力士6相RDQS方案的引入是如何有效减小外围电路尺寸

资料来源：海力士《创新设计方案带领HBM3E攀登新高峰》

HBM的主要特点是高带宽、高内存密度、低功耗

高带宽：相比于传统内存，HBM具备极高的带宽。例如，HBM2每个内存层带宽可以达到256GB/s，其实现的总带宽远超传统的GDDR5和GDDR6。通过宽总线接口与高并行性，HBM提升了数据传输效

率。这种高带宽的特性，使得HBM能够满足大数据吞吐量的需求，在人工智能、图形处理器、数据中心等领域具备更高的适配度。例

如，深度学习要求频繁的调取数据进行处理，HBM提供足够高的带宽支持数据的高效传输，从而加快模型训练。

图2：HBM高带宽存储器示意图

资料来源：SK海力士官网

高内存密度：相比于传统内存，由于HBM采用的3D堆叠设计，使其在更小的物理空间中实现了更大的内存容量。通过将多层DRAM芯片堆叠，降低了水平面空间的占用，提升了内存容量与内存密度。例如

HBM2内存容量增加到8GB，HBM3内存容量达到了16GB。通过垂直堆叠，提升HBM内存密度，可以满足在受限物理空间的需求。例如，在移动设备和小型的服务器中，HBM的小尺寸以及高内存密度可以实现更高的性能。

图3：HBM可快速访存，高内存密度优势明显

资料来源：AMD《DPUv3EforAlveoAcceleratorCardwithHBM》

低能耗：传统内存面临数据传输慢，为实现高数据传输速率而消耗更高功耗，而HBM从封装上降低数据传输距离，减少数据传输过程的能量损耗。同时其具有高带宽、并行传输的特点，实现了高效传输，缩短系统的整体损耗，使其具备更高的能源效率，低能耗的特点使其

在节能应用中具备更高优势。例如，数据中心需要处理大量数据，通过HBM技术可以提供高能效、低延迟的服务，提升数据中心整体运行效率。

图4：，HBM还重新调整了内存的功耗效率，能够在保持高带宽的同时降低功耗

资料来源：CXLandthedevelopingmemoryhierarchy

HBM能有效解决带宽墙、内存墙

随着处理器算力与存储器容量的不断提升，传统架构遭遇瓶颈，诸如“带宽墙”“内存墙”等问题有所显现。冯诺依曼架构作为电子计算器的通用架构，以“程序存储，共享数据，顺序执行”为架构的主要特点，需要CPU从存储器取出指令和数据进行相应的计算。CPU与存储器间信息的交换速度影响了系统性能，而信息交换速度又受到存储器的影响。目前面对的核心问题是算力与带宽难以匹配，算力不断提升的情况下，在更短的距离、更密集的范围内实现匹配的带宽成为最大的难点。表现为“内存墙”“带宽墙”。HBM是缓解上述问题的最重要方法之一。

图5：冯诺依曼架构

资料来源：

解决“带宽墙”问题

带宽墙指的是存储带宽限制了计算系统的有效带宽，从而降低数据搬运效率影响处理器性能发挥的现象。随着处理器核心与频率的不断提升，其计算速度不断加快，