计算机行业华为系列深度之十五-AI算力软件生态：难以突破吗？.pdf

总总结结：：两两条条路路径，径，各自突各自突破破

AI芯片的整体性能=AI芯片硬件性能×（GPU编程平台+深度学习框架支持）

生态壁垒产生的根源在于软硬件的高度耦合AI芯片公司需要投入的优化最大的工作量是对海量算子和特定芯片的支持

突破CUDA的两类方式AI芯片公司所采取的不同突围路线优劣势

1兼容CUDA

AMD

兼容CUDA的路线，借力难点在于其更新迭代速度永远跟不

解决用户学习成本问题，实现无痛切换

1）上层转换器，如ROCmHipifyTools海光英伟达生态上CUDA并且很难做到完全兼容

2）底层二进制机器码实时转译，已被禁止，信息

有法律风险

华为：人才供给充足，各类算子开

2自成体系华为发进展较快，但由于开放较多底层

优化，开发难度大，用户不友好

深度学习框架+AI芯片”

自研路线

谷歌：Tensorflow提供强耦合支持，

谷歌但芯片设计过于专用，非谷歌人员

使用有壁垒

对厂商人才、技术、资金、品牌实力

要求较高，需要以非市场化途径切入

市场，培育用户习惯和生态寒武自行维护Pytorch、

芯片本身性能以及算子库丰富程度

纪其Tensorflow后端算子，

还有追赶空间

他开发者共建算子生态

证券研究报告3

主要内容

1.软件工具：AI芯片的“大管家”

2.训练端：后进入者竞争CUDA两类方式

3.推理端：ONNX为“中间人”，软件生

态百花齐放

4.相关公司

5.风险提示

4

11..11软软件件工工具具栈栈：：AAII芯芯片片的大的大管管家家

AI开发框架数学表达—计算图

1）张量计算引擎+2）自

动求导机制=高层算子，例