算力是人工智能的基础设施.pptx

算力是人工智能的基础设施，算法是人工智能的灵魂1算力是人工智能的基础设施PPT课件

人工智能研究框架培训01算力是AI产业发展的根基算力是承载人工智能应用发展的基础，是人工智能最核心的要素图20：算力是AI产业发展的根基数据的快速增长对算力发展提出更高要求。随着信息化、数字化的持续推进，全球新产生的数据量正在快速增长，根据IDC数据显示，2021年全球新增数据总量达到84.5ZB，预计到2026年全球新增数据总量将达到221.2ZB，2021年至2026年间的年复合增速达到21.22%新应用场景的出现对数据实时性要求更高，从而使得边缘计算能力变得愈发重要，人工智能应用也越来越依赖边缘算力支撑。算力、算法和数据是人工智能产业发展的三个核心要素，在三大要素中，算力才是最核心的要素数据的生产不再是问题，如何处理、分析和使用数据才是问题。算法经历了数十年的发展，在深度学习和加速计算出现之后，得到了迅速的发展和优化算力是承载和推动人工智能走向实际应用的决定性力量算力算法模型的复杂化和巨量化需要更强算 力的支撑。近些年，算法模型的参数量 和复杂程度都在呈现指数级增长态势， 尤其是自然语言处理等新兴认知智能领 域对算力的要求远超图像识别和语音识 别等传统AI领域数据来源：证券研究数据算法282算力是人工智能的基础设施PPT课件

人工智能研究框架培训01算力提升有极强的经济效益算力的经济效益使其成为各国政策支持的重点根据清华大学全球产业院与浪潮信息联合发布的《2021-2022全球计算力指数评估报告》，通过对全球15个重点国家的计算力指数与数字经济及GDP的回归分析，得到15个重点国家的计算力指数平均每提高1点，国家的数字经济和GDP将分别增长3.5‰和1.8‰进一步研究发现，当一个国家计算力指数分别达到40分及60分以上时，计算力指数每提升1点，其对GDP增长的推动力将分别增加到1.5倍及3倍。智能算力提升具备重大经济效益，对算力基础设施发展的支持性政策成为各国政策的重点。图21：算力提升具有极强的经济效益数据来源：《2021-2022全球计算力指数评估报告》,证券研究293算力是人工智能的基础设施PPT课件

人工智能研究框架培训01AI数据中心需求激增，AI服务器快速放量AI数据中心是专门用于支持人工智能计算和数据处理任务的设施或物理空间AI数据中心通常拥有大量高性能的服务器、GPU加速器和专门的存储系统，以提供强大的计算能力并加速深度学习AI数据中心配备了高速的网络设备和优化的软件框架，以支持高效的数据传输和算法训练通过这些专门的配置和优化，AI数据中心能够为各种规模和复杂度的AI工作负载提供可靠稳定的计算环境，并满足大规模数据存储、备份和分析的需求AI数据中心在推动人工智能技术的发展和应用方面起到关键作用，为各行各业的AI应用和服务提供了强大的支持图22：AI数据中心比普通数据中心需要更好的计算能力、存储需求、网络带宽和软件支持用于快速数据传输和通信的高网络带宽、低延迟网络，以满足对数据传输速度的敏感需求用于大规模并行计算，处理复杂机器学习和深度学习算法的高性能计算设备（如GPU和特定的AI芯片）软件支持针对机器学习和深度学习任务的软件支持，包括专门的AI框架、库和工具，以及优化的软件栈和分布式计算平台，以提高计算效率和性能计算能力储存需求用于存储大规模数据集的大容量、高速存储网络宽带数据来源：证券研究304算力是人工智能的基础设施PPT课件

人工智能研究框架培训01AI数据中心需求激增，AI服务器快速放量大模型的出现和技术创新对AI数据中心的发展起到推动作用大模型的出现带来了算力的增量需求根据OpenAI发布的有关GPT-3模型的文档，它包含1750亿个参数，需要进行数千万次的计算操作来完成一次推理任务ChatGPT的总算力消耗约为3640PF-days，需要7~8个投资规模30亿、单体算力500P的数据中心才能支撑运行，这样的规模和复杂性需要高性能的计算设备和大规模的并行计算能力，带动了AI数据中心需求的增长新的处理器架构、高速网络、存储技术以及更高效的冷却和能源管理系统的出现，提升了数据中心的性能和效率，为AI数据中心的发展提供了技术支持图23：大模型时代使算力需求翻倍提升数据来源：IJCNN315算力是人工智能的基础设施PPT课件

人工智能研究框架培训01AI服务器中，GPU价值量最大AI服务器是AI数据中心重要的组成部分AI服务器是专门为人工智能应用而设计和配置的服务器，具备强大的计算能力和高效的数据处理能力，是执行AI任务和处理大规模数据的关键组件，为数据中心提供计算资源和算力，用于执行复杂的AI算法和模型