陈理华-大语言模型在 IT 运维领域的建设落地实践

大语言模型赋能运维新篇章

核心观点与关键要素
陈理华总监提出大语言模型（LLM）在运维领域的应用，从运维知识问答进化到运维Agent，构建运维智能体，并最终打造智慧运维Copilot。关键要素包括：

• CVP架构：基于ChatGPT、VectorDB和Prompt，支撑大模型完成垂直领域故障问答。
• Agent工作流程：任务规划→API筛选/分配→任务执行→结果生成，具备自主理解、决策和执行复杂任务的能力。
• COT技术：结合COT提出大模型运维开发范式，实现“会做事”的智能体。
• AgentEval评估：通过参数提取准确率和工具调用准确率评估Agent能力，提升任务规划质量。

两大运维场景落地

1. PaaS大模型运维能力

   • 覆盖xxxx台核心系统纳管主机，保障x万余POD健康运行。
   • 支持xx种故障场景，实现1n异常发现（K8S告警、日志采集与告警解释）和3n处置执行（大模型Agent调度运维操作，敏感操作二次授权）。
   • 生产效率提升x0%以上。

2. SaaS大模型运维能力

   • 覆盖x0%重点业务（CRM系统个人、家庭、政企等）。
   • 拉通指标、日志、链路数据，实现x5%故障定界准确率。
   • 故障发现、分析、恢复流程自动化，保障业务平稳运行。

运维智能社会构建

• Agent能力：持续打造数据库、中间件等智能体，构建运维领域智能体平台。
• Agent共创平台：依托中国信息通信研究院，组织电信业创新合作，推动规范化、标准化智慧运维。
• Agent协同机制：与中国移动、复旦大学合作，通过强化训练提升基座大模型能力。

研究结论
大模型赋能运维实现效率提升和智能化转型，通过PaaS/SaaS场景落地验证其可行性，未来将构建协同化的运维智能社会。