【重点研报】鲍中帅：万卡级超大规模智算集群网络运维挑战及实战.pptx

;12年从业经验，擅长大规模网络架构设计及运维

业内第一个超大规模国产万卡智算集群网络架构师

亚太地区领先的人工智能企业数据中心网络部门负责人;目录;大模型发展及国产化集群介绍;2022年11月30日

ChatGPT正式发布上线2个月活跃用户过亿

2023年3月15日发布GPT-4

11月7日发布GPT-4Turbo当前用户量突破17亿;国际大模型产业竞争目前呈现“激烈迅猛”之势;建成5个国产化云服务集群

20亿次/日服务请求

47%全网请求占比

99.99%云端实时成功率;复杂版面的高精度解析

覆盖31个场景、18类关键要素;;万卡智算集群运维关键痛点;10000+张

计算加速卡

500+台

交换机设备

30+台

存储设备

30000+根

光纤;不同于通算，大模型训练任务对于网络要求苛刻34%的训练中断是由网络引起;;万卡集群运维创新实践;;;;;流程增强点;;集群环境检查;;Thanks;