大模型在华为云数字化运维的全面探索和实践

华为云智能运维发展之路与大模型使能运维规划

华为云智能运维发展路线

华为云智能运维经历了从单点智能运维（2018-2020）、复杂场景智能运维（2021-2023）到自动化运维（2024~）的发展阶段：

• 单场景智能运维（2018-2020）：采用传统ML算法，包括日志模板分析、云服务单指标异常检测、告警智能压缩、网络多级异常检测等。
• 串并联智能运维（2021-2023）：实现可视、可决策、可执行，包括自然语言问答、运维知识检索、故障自动总结、故障案例推荐、硬件故障预测、变更命令分级智能识别、变更人员匹配度评估、安全生产自动稽查、变更风控驾驶舱等。
• 大模型使能运维（2024~）：引入LLM+运维Copilot，聚焦高价值、高门槛、高人力场景，提升运维人效。

大模型使能运维总体规划

• 核心价值流：聚焦运维人效提升，构建运维盘古助手，打造智能运维新高地。
• 多触点构建：支持Web、WeLink机器人和运维工具系统集成。
• 运维Copilot Stack：实现端到端运维对话、意图理解、Agent和Tools建设，与运维大模型集成。
• 大小模型协同计算：小模型聚焦确定性量化分析，大模型注重内容理解和生成。
• 高质量运维知识语料中心：围绕运维知识数据收集、知识规范、知识管理和运维语料标注全面建设。

运维大模型应用难点和解法

4大难点

1. 语料少，知识质量差
2. 大模型幻觉
3. 大模型逻辑推理难
4. 业务应用难，见效慢

6大方案

1. 运维语料数据增强：采用大模型合成数据和语料的持续迭代实现语料数据增强。
2. 全流程运维知识治理：确定运维知识地图，明确职责边界，统一知识管理和存储，构建知识消费运营体系。
3. 确定性运维意图理解：多层路由，结合大小模型构建运维多场景智能问答意图识别能力。
4. 增强RAG实践：从知识问答改写到多路知识检索全面提升。
5. 基于确定性编排构建大小模型协同的故障分析方案：小模型精确诊断定界，大模型确定预案推荐和总结。
6. 多端触点集成方案：实现运维助手全场景覆盖，提升业务生产力。

总结和未来规划

总结

• 大模型使能运维重点：选择高门槛、高人力、高价值点场景，提升运维生产力。
• 运维助手变革：改变运维交互模式，实现从自动化运维走向无人化运维。
• 端到端构建：从知识语料>运维大小模型算法调优>编排框架>Copilot Stack>产品集成应用>数据化运营。

趋势

• 业务演进：运维大模型使能三阶段：辅助运维→运维工作流集成→运维数字助理。
• 算法架构：运维大小模型协同将是未来运维算法架构的常态。
• 未来技术：从自动化运维走向无人化运维，核心是人机协同技术和AI Agent技术的集成应用。

未来规划

基于大语言模型和人机协同技术，构建运维智能中枢决策引擎，驱动运维无人化变革。