AIGC行业深度报告.pptxVIP

AIGC行业深度报告

1.1ChatGPT开启大模型“军备赛”，算力呈现明显缺口?ChatGPT开启算力军备赛:我们已经在《ChatGPT:百度文心一言畅想》中证明数据、平台、算力是打造大模型生态的必备基础，且算力 是训练大模型的底层动力源泉，一个优秀的算力底座在大模型(AI算法)的训练和推理具备效率优势；同时，我们在《ChatGPT打响AI算 力“军备战”》中证明算力是AI技术角逐“入场券”，其中AI服务器、AI芯片等为核心产品；此外，我们还在《ChatGPT，英伟达DGX 引爆AI“核聚变”》中证明以英伟达为代表的科技公司正在快速补足全球AI算力需求，为大模型增添必备“燃料”。?大模型参数呈现指数规模，引爆海量算力需求:根据财联社和OpenAI数据，ChatGPT浪潮下算力缺口巨大，根据OpenAI数据，模型计算 量增长速度远超人工智能硬件算力增长速度，存在万倍差距。运算规模的增长，带动了对AI训练芯片单点算力提升的需求，并对数据传 输速度提出了更高的要求。根据智东西数据，过去五年，大模型发展呈现指数级别，部分大模型已达万亿级别，因此对算力需求也随之 攀升。5大模型参数数量和训练数据规模快速增长 资料来源：新浪，智东西，可创办日报，研究所近年大模型的参数规模增长趋势

编号名称编号名称3中置GPU模块12内存5、6网卡13主板7Riser卡18电源模块8GPU卡23硬盘9存储控制卡25超级电容10CPU27加密模块12内存28系统电池1.2深度拆解服务器核心硬件组成部分6?服务器的组成:我们以一台通用服务器为例，服务器主要由主 板、内存、芯片组、磁盘、网卡、显卡、电源、主机箱等硬件 设备组成；其中芯片组、内部存储和外部存储是组成核心部件。?GPU服务器优势显著:GPU服务器超强的计算功能可应用于海 量数据处理方面的运算，如有哪些信誉好的足球投注网站、大数据推荐、智能输入法等， 相较于通用服务器，在数据量和计算量方面具有成倍的效率优 势。此外，GPU可作为深度学习的训练平台，优势在于1、 GPU服务器可直接加速计算服务，亦可直接与外界连接通信； 2、GPU服务器和云服务器搭配使用，云服务器为主，GPU服 务器负责提供计算平台；3、对象存储COS可以为GPU服务 器提供大数据量的云存储服务。?AI服务器芯片组价值成本凸显:以一台通用服务器为例，主板 或芯片组占比最高，大约占成本50%以上，内存(内部存储+外部 存储)占比约为20%。此外，根据Wind及芯语的数据，AI服务器 相较于高性能服务器、基础服务器在芯片组(CPU+GPU)的价格往 往更高，AI服务器(训练)芯片组的成本占比高达83%、AI服务器 (推理)芯片组占比为50%，远远高于通用服务器芯片组的占比。资料来源：H3CUniServerR4900G5技术白皮书，研究所H3CUniServerR4900G5服务器硬件结构拆解 H3CUniServerR4900G5服务器硬件结构注释

7 数据存储示意图资料来源：CSDN，研究所数据存储示意图 1.3存储，计算机的重要组成结构?存储是计算机的重要组成结构:存储器是用来存储程序和数据的部件，对于计算机来说，有了存储器才有记忆功能，才能保证正常工作。 存储器按其用途可分为主存储器和辅助存储器，主存储器又称内存储器(简称内存)，辅助存储器又称外存储器(简称外存)。???内存:主板上的存储结构，与CPU直接沟通，并用其存储数据的部件，存放当前正在使用的（即执行中）的数据和程序，一旦断电，其中的程序和数据就会丢失；外存:磁性介质或光盘，像硬盘，软盘，CD等，能长期保存信息，并且不依赖于电力来保存信息。XPU、内存、硬盘组成完整的冯诺依曼体系:“内存”实为硬盘与CPU之间的中间人，CPU如果直接从硬盘中抓数据，时间会太久。所以“内存”作为中间人，从硬盘里面提取数据，再让CPU直接到内存中拿数据做运算。这样会比直接去硬盘抓数据，快百万倍；CPU里面有一个存储空间Register(寄存器)，运算时，CPU会从内存中把数据载入Register,再让Register中存的数字做运算，运算完再将结果存回内存中，因此运算速度Register内存硬盘，速度越快，价格越高，容量越低。

比较动态RAM(DRAM)静态RAM(SRAM)存储原理电容存储电荷的方式触发器的方式集成度高低芯片引脚少多功耗小大价格低高速度慢块刷新有无8存储分类示意图 资料来源：CSDN，研究所 1.3存储，计算机的重要组成结构?存储按照易失性分类:分别为ROM(只读存储器)是Read