智算平台运维运营技术研究报告（2024）.docx

智算平台运维运营技术研究报告

复旦大学

中国信息通信研究院云计算与大数据研究所

阿里云计算有限公司

2024年11月

编委会/EDITOR

编委(排名不分先后):

复旦大学:

吴力波、漆远、颜波、程远、韩丽妹、孙祥、张泰玮、李孟渚、张凯、葛治文、吴悠、关惠宇、黄岳、郭昕、蒋晨、徐跃东、林长龙、侯帅、江润丰

中国信息通信研究院云计算与大数据研究所:

栗蔚、马飞、苏越、赵伟博、桑柳

阿里云计算有限公司:

孙磊、付来文、李冬青、周昌盛、刘恩奇、王威、曹玉嘉、郎翊宇、杨仁远、张圣良

参编单位:

复旦大学

中国信息通信研究院云计算与大数据研究所阿里云计算有限公司

版权声明/CopyrigNotice

本报告版权属于复旦大学、中国信息通信研究院云计算与大数据研究所和阿里云计算有限公司,并受法律保护。转载、摘编或利用其他方式使用本报告内容或观点,请注明:“来源:《智算平台运维运营技术研究报告》”。违反上述声明者,编者将追究其相关法律责任。

目录/CONTENTS

1.研究背景及价值

03

1.1算力的现状和发展趋势

03

1.2智算平台的现状和发展趋势

03

1.3智算平台的运维运营现状与面临挑战

06

2.智算平台运维运营

13

2.1智算平台运维运营中心主要功能

14

2.2智算平台运维运营组织架构及制度体系

16

2.3AI运营

19

2.4智算平台运营

25

2.5智算平台运维

32

3.智算平台运维运营评价体系及评价指标

49

4.智算平台运维运营案例

55

4.1AI运营

55

4.1.1案例1:复旦大学的AIforscience运营

55

4.1.2案例2:阿里云AI运营实践

56

4.2智算平台运营

57

4.2.1案例1:复旦CFFF平台运营最佳实践

57

4.2.2案例2:骞云算力运营平台

58

4.3智算平台运营

61

4.3.1案例1:DataDog大模型可观测运维

61

4.3.2案例2:某人工智能实验室运维实践

62

5.智算平台运维运营未来展望

65

智算平台运维运营技术研究报告01

前言/FOREWORD

在数字化转型的浪潮中,智算中心扮演着越来越重要的角色,在国家数字经济和科技创新战略中的地位日益凸显。随着算力需求的不断攀升,智算中心不仅成为支撑人工智能、大数据、云计算等前沿技术发展的基石,更是推动经济社会发展的关键力量。

智算平台的运维运营是确保其高质量、稳定运行的关键。本研究报告基于复旦大学CFFF(Com-putingfortheFutureatFudan)和阿里云智算中心的建设、运维、运营经验及中国信息通信研究院在此领域的研究成果,构建智算平台运维运营框架及评价体系。智算平台运维运营主要由三大能力域构成,—是AI运营,致力于人工智能模型的全生命周期管理,二是平台运营,着眼于提升用户体验和资源管理效率,三是平台运维,通过管理算力设备保障智算平台的业务连续性和系统安全。为客观衡量智算平台的运维运营水平,本报告从智算平台的基础设施、AI运营、平台运营和平台运维四个能力维度展开研究,提取通用、专用评估指标,构建智算平台运维运营评价体系,以期为行业内智算平台的建设、运维运营、能力评价提供参考。

智算平台运维运营是—个充满挑战的新兴领域,需要不断探索和创新。本研究报告旨在为业界提供更加全面、深入的研究视角,以促进智算平台运维运营的专业化、标准化和智能化发展。本研究报告仍有不足指出,期待业界专家和广大读者提出宝贵的意见和建议,共同推动智算平台运维运营领域的发展与完善。

研究背景及价值

算力的现状和发展趋势

智算平台的现状和发展趋势

智算平台的运维运营现状与面临挑战

智算平台运维运营技术研究报告03

研究背景及价值

1.1算力的现状和发展趋势

随着数字化转型的深入和人工智能、大数据、云计算等新兴技术的广泛应用,算力已成为支撑经济社会发展的关键基础设施。中国作为全球第二大经济体和数字技术应用的前沿阵地,其算力需求呈现出爆发式增长态势。2024年政府工作报告中提出,大力推进现代化产业体系建设,加快发展新质生产力。要深入推进数字经济创新发展,制定支持数字经济高质量发展政策,积极推进数字产业化、产业数字化,促进数字技术和实体经济深度融合。深化大数据、人工智能等研发应用,开展“人工智能+”行动,打造具有国际竞争力的数字产业集群。实施制造业数字化转型行动,加快工业互联网规模化应用,推进服务业数字化,建设智慧城市、数字乡村。深入开展中小企业数字化赋能专项行动。支