网站大量收购独家精品文档,联系QQ:2885784924

半导体行业研究:推理算力需求持续增长,ASIC端侧应用前景广阔.pdfVIP

半导体行业研究:推理算力需求持续增长,ASIC端侧应用前景广阔.pdf

  1. 1、本文档共13页,可阅读全部内容。
  2. 2、有哪些信誉好的足球投注网站(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
  3. 3、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载
  4. 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
  5. 5、该文档为VIP文档,如果想要下载,成为VIP会员后,下载免费。
  6. 6、成为VIP后,下载本文档将扣除1次下载权益。下载后,不支持退款、换文档。如有疑问请联系我们
  7. 7、成为VIP后,您将拥有八大权益,权益包括:VIP文档下载权益、阅读免打扰、文档格式转换、高级专利检索、专属身份标志、高级客服、多端互通、版权登记。
  8. 8、VIP文档为合作方或网友上传,每下载1次, 网站将根据用户上传文档的质量评分、类型等,对文档贡献者给予高额补贴、流量扶持。如果你也想贡献VIP文档。上传文档
查看更多

证券研究报告/投资策略

推理算力需求持续增长,ASIC端侧应用前景广阔

半导体行业研究

投资要点

➢推理算力需求扩容

分析师:吴起涤

近年来大模型持续迭代,大模型参数规模总体呈现增加趋势,参数增加带动算力

执业登记编号:A0190523020001

需求扩容。ChatGPT3.5加速了生成式人工智能的商业化进程,实现注册用户数

wuqidi@

量破亿仅耗时两个月,微软、谷歌等科技巨头纷纷接入,之后大模型热度持续火

爆,带动算力需求激增。DeepseekR1问世推动大模型平价化,降低了大模型开分析师:赵毅轩

发成本,利于为下游端侧和应用侧打开市场空间,下游爆发同样将催生大量算力

执业登记编号:A0190124060001

需求,并推动算力需求由训练端向推理端转移。据IDC预测,推理服务器的工作

zhaoyixuan@

负载占比预计由2020年的51.5%逐年增加至2026年的62.2%,中国人工智能服

务器工作负载结构中的推理算力占比总体呈现增加趋势。

上证指数与万德芯片概念指数走势

➢Deepseek推动大模型平价化,端侧,应用侧商业化进程有望提速

上证指数与万德芯片概念指数走势

通过一系列算法优化,Deepseek-V3相较于同类模型,训练成本大幅下降,完成20.00%

15.00%

训练仅耗时不到两个月,按H800芯片算力测算,Deepseek-V3预训练阶段的训10.00%

5.00%

练时长为266,4万GPU小时,上下文扩展训练耗时11.9万GPU小时,后训练阶段0.00%

-5.00%

耗时5,000GPU小时,假设H800每小时的租赁价格为2美元,则模型的总训练成-10.00%

本为557.6万美元,训练成本仅为GPT-4o的十分之一。上证指数万德芯片概念指数

➢ASIC适于端侧部署,市场空间广阔资料来源:Wind,源达信息证券研究所

本地推理不仅可以降低延时、提高吞吐量,摆脱网络限制,还有助于保护数据安

全和用户隐私,终端推理任务的本地化运行或是未来的发展趋势,本地推理需求

的增加将促进ASIC市场需求扩容。

ASIC芯片

文档评论(0)

tan_xie + 关注
实名认证
文档贡献者

该用户很懒,什么也没介绍

1亿VIP精品文档

相关文档