大模型在华为云数字化运维的全面探索和实践.pptx

大模型在华为云数字化运维的全面探索和实践

演讲人：乔彦辉;;

华为云智能运维发展路线

从单点，到复杂，再到自动化;;

大模型使能运维总体规划

聚焦高价值高门槛高人力场景，面向长期规划;

大模型使能运维业务规划：聚焦2条核心价值流，全

面辅助运维人效提升

聚焦高门槛，高价值，高人力场景，拥抱大模型提升运维人效

故障处理：2000+，平均参与人数10+(非自愈)事件处理：10000+，月均参与人：200+;

运维大小模型协同计算

运维“大”模型内容理解和生成

RAG场景模型微调;

运维大模型应用难点和解法

围绕语料，知识，意图理解和复杂决策以及新交互实现大模型

应用运维的确定性;

?大模型幻觉

?大模型逻辑推理难

?业务应用难,见效慢

6大方案：

?运维语料数据增强

?全流程知识治理

?确定性运维意图理解

?增强RAG实践

?基于确定性决策实现大小模型协同故障诊断方案

?多触点集成方案，提升业务生产力;

运维语料数据增强:采用大模型合成数据和语料的持续迭代实现语料数据增强;

全流程运维知识治理：确定运维知识地图，明确职责边界，统一知识管理和存储，构建知识消费运营体系;;

案例：结合分层意图路由，支持20+高频运维指令查询;;

案例：面向事件信息事前自动提取问题概要，事后多路检索提升大模型检索准确率;;

案例：结合编排框架实现运维故障总结分析概要;

多端触点集成，实现运维助手全场景覆盖，改变用户交互行为;

事件解决方案融

入事件处理作业

流,，进入处理

界面自动生成推

荐;

案例：模式二，运维工具和运维助手大小屏联动分析，左屏可视，右屏辅助;

总结和未来规划

结合人机协同，基于LLM和AIAgent构建运维数字助理驱动运维智能化演进;

总结和趋势

总结：

?大模型使能运维重点围绕提升运维生产力为主：选择高门槛，高人力，高价值点场景

?大模型加速智能运维快速走向下一个阶段，运维助手将改变运维的交互模式，从而真实实现从自动化运维走向无人化运维

?大??型只是一个算法手段，降低模型应用的复杂度，但面向运维场景应用需要构建从知识语料运维大小模型算法调优编排框架CopilotStack产品集成应用数据化运营端到端构建

趋势：

?业务演进：运维大模型使能三阶段，辅助运维-》运维工作流集成-》运维数字助理

?算法架构：运维大小模型协同将是未来运维算法架构的常态

?未来技术：从自动化运维走向无人化运维，核心需要实现人机协同技术和AIAgent技术的集成应用;

分析决策智能算法;

THANKS

大模型正在重新定义软件

LargeLanguageModelIsRedefining

TheSoftware