2024腾讯云安灯AI大模型应用实践与探索

腾讯云安灯 AI大模型应用实践与探索 许小川@腾讯云安灯 源自精益思想 丰田生成方式 基于ITIL4 SaaS 助力企业 数字化转型 引用来源：互联网；axelos官网 已构建腾讯云x伙伴x客户的“协作网络” 核心模块业务场景举例 •BPM •ITSM •ITOM •FSM •… 业务流程管理 •离线分析 •在线分析 •BI •看板 •… 数据可视管理 •Chatbot •客情感知 •共性识别 •知识管理 •.... AI应用提效 •企业微信 •内部服务号 •Slack •TG •Web 全渠道接入 客户支持管理 项目实施管理 内部协作管理 现场调度管理 研发过程管理 … •WebIM •热线 •... 业务数字化 管理 … 流程数字化 工具 信息数字化… 数据 引用来源：互联网 以IM为例，对比IM“工具”和安灯“管理”上的差异 •群太多，应接不暇 •人太多，责任不清 •事太杂，容易跟丢 •效率低，全靠堆人 •无数据，难管理 IM •有优先级/响应时限管理 •有角色管理 •有SLA管理 •有知识管理（借助AI提效） •有质量管理 +安灯 •…•… IT 数据 从业务数字化管理top-down，构建完善的AI应用增强回路 ——“安灯数字化转型飞轮” 加持 业务 决定 AI 流程 注入 固化 产生 以云的客户ITsupport业务流程为例 客户 一线 二线 n线 AI应用机会 智能建单智能优先级客户画像可视化分析 智能客服 安灯Copilot 各种Agent…… 传统的客户和接单人在建单体验问题 “一句话工单”的博弈“含1量%”高 提个工单要码一堆字，让人抓狂！ 建单人 能不能简便点！ •满是“111111”的工单 收到“一句话工单”，让人抓狂！ 能不能详细点！ 接单人 •缺少信息量的结构化 •难以分析的数据 *以企业微信群消息建单为例 智能摘要，自动填单 •智能摘要，总结群聊的问题 •信息结构化，5W2H •自动填单，减少手输工作 •基于采纳率的强化学习 含1量%：下降90% CX、EX 服务千头万绪 •群消息多 •跟进时间长 •需要做优先级排序 传统的优先级矩阵 •基于规则 •人工设置 •和客户预期Gap 客户满意度提升瓶颈 •满意度进入平台期 •距离卓越还有差距 •追加投入效果不明显 引用来源：互联网 •进入平台期 CSAT卓越标杆客户满意度 •兔子的“赶快”和乌龟的“赶快”，不是一种“快” 基于大模型和机器学习的优先级调度 •基于事X人 •自动设置 •因人而异 满意度提升15%投诉率降低24% 您好，请问有什么可以帮到您？ 人工 您好，请问有什么可以帮到您？ 人工 人工 ～45% 摇人率 传统智能客服 “摇人率%”高 运营成本高 客户一线 •基于FAQ •机械式对话 •多轮对话能力弱 •需要专职团队 •需长期运营FAQ •需手工更新 基于混元+RAGRAG的实现等级 RLHF 客户一线 简单的检索和生产 上下文检索和生成 动态检索和生成 多源检索和生成 使LLM能推理检索的知识 结合知识图谱等方式 知识感知生成 从多个来源检索信息复杂的检索和融合技术 LLM在生成过程中根据需要动态检索信息 基于上下文理解相关性过滤/排序 基于关键词相似匹配文档 阿里·阿桑贾尼：《GenAI成熟度模型》 借助安灯业务流程，实现智能分身串联 客户 张e三 张三 李e四 李四 王e五 王五 … 传统智能客服 安灯Copilot 仅用半年能力就 赶超传统智能客服4年的积累 +12% 像极了“特斯拉阀”“1个好机制胜过10000遍日常管理”——吴昊 •要么向前赋能，否则向后传递 •增强回路 •工作中潜移默化知识沉淀 2020H1 2021H1 2022H1 2023H1 2023H22024H1 2024H2E • • 价值价值流流动拉动 • • • • 流程即消费 无需专职 流程即反馈 效果量化 流程即生成 增强回路 • • 腾讯混元腾讯VDBRAG 动态、多源检索和生成reflexion • • • • 业务场景 工作流 行业大脑 安灯 基于安灯流程“虹吸效应”，知识藏宝于企业 生产数据 显性知识 （传统知识库） <1% 转换为文档 隐性知识 内部知识 知识是“宝”，但未必为企业所“藏” 外部知识 半亩方塘一鉴开，天光云影共徘徊。问渠那得清如许？为有源头活水来。 传统客户画像的弊病似乎问题是我们自己造成的基于行业大脑的智能画像 • • • • • • • 基于标签受经验限制灵活性差维护成本高 另一些非结构化 智能画像 一抓就乱填一放就不填 结构化画像Agent ……idea非结构化 非结构化 引用来源：互联网 “问我想问” 营销助力客情分析问题梳理 和腾讯云chatBI联动，让人人都是“表哥表姐” 腾讯云顾问——一站式云上可视化治理平台 传统的手绘软件架构图基于“腾讯云顾问”，在线治理云架构 一键生图 一键治理 安全的 可靠的 高性能的 顾问Agent “我的” 卓越架构 低成本的 运营卓越的 可持续的 行业的 卓越架构经验 腾讯云的卓越架构经验 架构图就是软件工程师的语言，常被应用到软件研发全生命周期一张广为流传的架构图 引用来源：互联网；tweeter 基于MultiAgent框架，将多个Agent的角色，通过Chat对 话的形式交互，输出方案 • AIAgent 启发：建设一套脚手架，不同专业团队“调教”专家Agent，遇到问题直接拉群，群 里多Agent聊着天就把问题解决 • 基于专家领域多Agent • 以一个网络问题为例： • Agent集合 输入问题 用 户 调教 获取答案 • 专家团队 审核 排障经验、知识文档、工具 AI 网络交互 现实 CVMAgent 专家A 专家B 引用来源：互联网；Microsoftautogen 智能建单智能优先级 智能助手行业大脑 看板Agent 安灯Copilot画像Agent … 引用来源：互联网；麦卡锡官网 加持 业务 决定 AI 流程 注入 固化 数据 场景 RAG 微调 评估 飞轮 GenAI应用路线图 产生 IT 数据 引用来源：阿里·阿桑贾尼，https://dr-arsanjani.medium.com/the-genai-maturity-model-a1a42f6f390b 谢谢聆听 许小川@腾讯云安灯