2024智算中心液冷架构探讨白皮书.docx

智算中心液冷架构探讨

第133号白皮书

能源管理研究中心

作者：PaulLin

RobertBungerVictorAvelar

摘要

摘要

许多用于训练大型语言模型（LLM）和推理工作负载的配备了加速器（如GPU）的人工智能服务器会产生足够的热量，因此需要采用液冷进行冷却。这些服务器配备了输入输出管道，并且需要一个由歧管

（Manifolds）、冷却分配单元（CDUs）和室外散热机组组成的生态系统。针对六种适用于液冷的常见散热架构，我们提供指南以选出最符合您的人工智能服务器或集群的架构。

为本白皮书评分★★★★★

施耐德电气——能源管理研究