网站大量收购独家精品文档,联系QQ:2885784924

电子行业英伟达GTC2025跟踪报告:2028年全球万亿美金Capex可期,关注CPO、正交背板等新技术趋势.docx

电子行业英伟达GTC2025跟踪报告:2028年全球万亿美金Capex可期,关注CPO、正交背板等新技术趋势.docx

  1. 1、本文档共28页,可阅读全部内容。
  2. 2、有哪些信誉好的足球投注网站(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
  3. 3、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载
  4. 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
查看更多

附录:英伟达GTC2025主题演讲纪要

时间:2025年3月19日

主讲人:英伟达创始人黄仁勋

1、AI的三个层次

过去五年,重点转向生成式人工智能,实现图像、资产的翻译与转换,人工智能检索方法也大变。以往侧重存储、获取多版本数据,如今AI像主动助手,能理解请求上下文与含义,动态生成响应,这一转变近年对技术各层面影响重大。现在是生成计算模型,不像过去提前创建、存储多版本内容再取用,AI能理解我们提问并生成所知,必要时检索信息、加深理解并给出答案,不再是检索数据,而是生成答案,彻底改变计算方式,过去几年尤其是两三年内,计算的每一层都发生了变化。①生成式AI是教AI模式转换,如文本到图像、视频等,能多种方式生成内容,从根本上改变计算模式。②智能体AI意味着有AI代理机构,它能感知、理解环境背景,可推理如何回答或解决问题,能规划行动、使用工具,因理解多模态信息,可访问网站学习并利用新学知识工作,这是全新推理方式。③物理AI依托理解物理世界的物理人工智能驱动机器人技术,它懂摩擦、惯性、因果关系、物体永存性等,理解三维空间将开启人工智能新时代,让机器人成为可能,这些阶段都将带来新市场机会。

人工智能解决行业挑战的能力不断提升。今年重点聚焦两大核心问题:一是突破数据限制,数据作为AI的核心,打破其约束至关重要;二是优化训练流程,以

此推动AI进一步发展。扩展AI意义重大,智能的扩展策略能提升AI系统的效率与弹性。过去一年,AI发展显著,模型性能达到全新高度。扩展AI并非仅提升计算容量,还涉及弹性、加速及推理。现代AI系统采用结构化决策,系统会选出最佳解决方案,不再是简单的“单次生成”,而是遵循结构化推理过程,保证响应的一致性与准确性。

图1:AI的不同层次

GTC大会,

2、推理模型带来的100倍Tokens增长

由于推理,如今所需计算量很可能是去年此时预计的100倍。从AI的能力说起,

智能体AI具备推理能力,能逐步解决问题,比如用不同方式处理问题选最佳答案,或多种方式解决同一问题并检查一致性,还能将答案回代方程确认。现在AI借助思维链技术可逐步推理分解问题。

在AI基础技术中,生成下一个标记(Tokens)时,前一步生成结果会再次作为输入参与后续步骤,不是只生成单个标记,而是生成代表推理步骤的单词序列,导致生成的Tokens数量大增,可能达到原来的100倍,或因模型复杂达到10

倍。为保证模型响应性和交互性,计算速度需提升10倍,计算量要容易100倍。但面临数据来源和局限性的挑战,数据及人类演示有限,系统需按步骤读取、批准数据来解决复杂问题,如何突破这一制约是关键。在科学领域,类似数独的谜题和基于限制的问题可作类比,AI能通过大量尝试逐步解决,生成数百万独特示例,基于产生的大量Tokens形成海量合成数据用于学习优化。

对比前四大公共云CSP(AWS、Azure、GCP和OCI)中HopperGPU高峰年和Blackwell第一年,AI正处拐点,因更聪明、能推理而更有用,使用人数增多,如ChatGPT等待时间变长。训练和推理模型所需计算量急剧增长,短短一年,Blackwell刚发货,AI基础设施就呈现惊人增长。

图2:AI生成定律

GTC大会,

图3:美国TOP4CSP预测

GTC大会,

3、数据中心的演变与人工智能加速计算的新时代

如今,我们似乎常常不得不等待技术的追赶。许多人渴望看到结果,但训练这些模型所需的计算能力是巨大的。随着必威体育精装版硬件的进步,我们终于看到计算能力在实际应用中得到了体现。预测的紫色部分显示了数据中心投资的预计增长。分析

师预测,用于数据中心、CSP和相关基础设施的资本分配将大幅增加。正如我之前提到的,我预计在不久的将来,数据中心的建设将大幅扩张。这种动态转变已经开始,绝大部分投资可能会用于加速计算。我们早就明白,软件必须与硬件加速器紧密集成,而现在我们已经越过了一个临界点,这种集成正在成为一种必然。

图4:ComputingAI发展拐点

GTC大会,

我们现在正在见证全球数据中心扩张所带来的切实影响。第一个关键转变是基础设施的转变。第二个重大发展是软件开发所需的资本投资不断增加。这是一个重要的概念:软件加速器现在将产生代币,驱动软件流程。从本质上讲,整个计算

生态系统正在变得代币化,从而实现先进的人工智能驱动的检索和处理。

数据中心正在转变为我所说的“人工智能工厂”。这些设施只有一个目的:处理、分析和生成人工智能驱动的研究和应用。世界正在经历一场根本性的转变--不仅是数据中心的扩张,还有如何在这些环境中部署和加速

您可能关注的文档

文档评论(0)

535600147 + 关注
实名认证
内容提供者

该用户很懒,什么也没介绍

版权声明书
用户编号:6010104234000003

1亿VIP精品文档

相关文档