苏商银行：大模型智能客服助手

苏商银行大模型客服助手 苏商银行 2024年6月 目录CONTENTS 01客服领域场景概述 02大模型技术概述 03大模型在客服领域的应用场景 04苏商银行的大模型客服助手实践 05未来的发展方向 客户服务贷款客户经营 01、客服领域场景概述 通过电话、手机APP等渠道接入 ，为客户提供业务咨询、业务办理、产品营销等银行服务，以语音服务、文本服务、视频服务为抓手，坚持以客户为中心的服务理念，服务客户。 风险资产管理 通过传统电催模式与科技相结合，强化信用风险状况的动态监测与早期预警，在预催收阶段充分运用IVR技术同时通过科技手段进一步提升M1、M2、M3、M3+全流程的电催效率 ，为全行资产保驾护航。 “第二银行”业务综合化程度高 负责税E贷、采购贷、商户贷等小微企业类贷款以及个人消费类贷款的销售和客群贷后经营维护工作。通过优化贷款产品结构，提升优质客群占比，降低业务风险；同时逐步调整电销贷款结构，形成均衡产品结构。 理财客户经营 借助CRM系统以远程管户经营模式 ，开展银行存款和金服理财客户经营工作，从新客开发、老客深挖、客群转化形成闭环，为财富客户提供资产保值增值服务。 目录CONTENTS 01客服领域场景概述 02大模型技术概述 03大模型在客服领域的应用场景 04苏商银行的大模型客服助手实践 05未来的发展方向 大模型的基本概念 本报告的大模型特指类似ChatGPT的大型语言模型（LargeLanguageModels，LLM），是一种由包含百亿以上参数的深度神经网络构建的自然语言模型。 简单来说，大模型就像是一个拥有巨大知识库的学者，它通过阅读和学习大量的书籍（数据）来掌握语言的规则和知识，从而能够在各种任务中取得优异的成绩。 对话式交互会成为下一个具有超级增长点的交互方式 随着技术的发展，人机交互正不可逆转地向人更习惯的方式靠近。可以预见的是，接下来是强人工智能时代，过去成百上千个App会逐渐演化成未来的成百上千个Chatbot。就像Android和iOS系统为手机赋能一样，Chatbot将会逐渐成为新的操作系统，逐渐为各行业赋能。 开源模型（绿线）正在逼近闭源模型（红线） •目前的开源模型与1年半前的闭源模型性能相当 •GPT4在开源模型中具有离群性 •Qwen和01AI在闭源模型中具有离群性 AI大模型将加快新质生产力发展，助力我国经济社会高质量发展 我国始终高度重视人工智能发展机遇和顶层设计，发布多项人工智能支持政策，国务院于2017年发布《新一代人工智能发展规划》。科技部等六部门也于2022年印发《关于加快场景创新以人工智能高水平应用促进经济高质量发展的指导意见》对规划进行落实。2024年《政府工作报告》中提出开展“人工智能+”行动。 各地方政府出台相关支持政策，加快大模型产业的持续发展。 南京市政府先后出台《关于加快人工智能产业发展的实施意见》《南京市打造人工智能产业地标行动计划》《南京市加快发展新一代人工智能产业行动计划（2023-2025）》等计划措施，开年初，南京提出要全力突破人工智能产业，抢抓大模型新浪潮，建设算法城市、强化赋能应用，高标准建设人工智能创新应用先导区。 近日，苏商银行建设的“南京市金融大模型工程技术研究培育中心”获得南京市科学技术局立项批复。 目录CONTENTS 01客服领域场景概述 02大模型技术概述 03大模型在客服领域的应用场景 04苏商银行的大模型客服助手实践 05未来的发展方向 大模型在客服领域的具有以下应用场景： 03、大模型在客服领域的应用场景 客户服务 1、大模型能够理解并处理复杂的语义结构，更准确地解析和理解用户的自然语言输入。 2、大模型使智能客服更具同理心和人性化，有效管理用户情绪。 3、大模型可根据坐席与客户的聊天内容，智能生成知识问答对，提升知识库维护效率。 贷款客户经营 1、大模型根据客户的信用历史、财务状况和行为模式，大模型可以生成个性化的营销策略，提高贷款产品的吸引力。 2、大模型可以分析对话记录，帮助销售人员生成客户画像，通过定期的跟进和个性化的服务，增强客户忠诚度。 理财客户经营 1、大模型能够提供定制化的建议和解决方案，根据客户的历史交互、偏好和上下文对话信息，实现个性化服务。 2、大模型具备持续学习能力，能够适应市场动态和产品变更，确保提供给客户的信息和服务始终是最新和最准确的。 风险资产管理 1、大模型可以根据历史数据和催收结果，不断优化催收策略，提高催收成功率。 2、大模型可以分析催收员的专业领域、历史业绩和工作负载，将案件分配给最有可能成功回收的催收员，提升团队绩效和员工满意度。 03、大模型在客服领域的应用场景 案例简述 中国工商银行 中国农业银行 中国建设银行中国交通银行中国邮政储蓄银行 在同业率先实现大模型技术在座席助手等场景落地，全年服务量 21.5亿笔，接听率和智能分流率同业领先。 正式上线了首个基于大模型的网点员工智能助手，提升网点效能 ，全年运营领域智能处理业务量3.2亿笔，比上年14%；建设 13个综合型数字员工以及1000余个流程自动化数字员工，智能增效超过3万人年。 推广客户投诉智慧治理模式，在投诉处置和管理主要环节全面应用机器人流程自动化、自然语言处理、生成式人工智能（AIGC）等技术，成功落地首个全行应用的AIGC场景，实现大模型自动撰写投诉处理报告。 推出的金融AI大模型产品ChatABC，能够利用大模型技术提升智能客服的金融知识理解能力、内容生成能力及安全问答能力。 上线了智能客服工单生成功能，每单平均节约客服工作时间15-20秒，可用率达82%，一致性达80%。 建设银行上线消保AI智能审查功能，通过智能信息识别与处理，产出AI审查结果，辅助审查人员 ，提高审查效率，提升消保审查的规范性和专业能力。 实现营销创意内容和文案自动化生产，帮助打造品牌形象、提升营销内容质量、提升黏客能力。 交行利用AI技术深挖个金客户兴趣偏好，用大模型强化业务端留客能力，各类理财模型策略累计触客成交量近4千亿元，较整体成交率提升16倍 邮储银行App融合AI空间、数字员工、视频客服，打造沉浸式陪伴服务 基于大模型的投诉问题分类智能模型 ，实现消保投诉管理自动统计分析和智能监测；上线推广消保投诉文本分析模型和消保审查智能辅助工具，有效提升消保管理事前审查和事后分析能力。 推出情感模型会话洞察与“灵动智库”服务增强企业微信运营功能，提升基层精细化客户洞察能力。 目录CONTENTS •客服领域场景概述 •大模型技术概述 •大模型在客服领域的应用场景 •苏商银行的大模型客服助手实践 •未来的发展方向 知识库运营效率低成本 目前客服知识库的内容不够全面并且更新主要依靠人工，耗时费力，导致在线客服机器人的自助解决率较低，增加了人工客服的工作负担和客户的等待时间 客服效能面临多重挑战质检流程准确性不高 首先，人工客服在并发处理多个请求时能力有限，易造成响应延迟其次，服务质量参差不齐，不同客服的专业水平和经验差异导致体验不一致；再者，新员工的培训周期长且人力成本高昂。另一方面，现行机器人客服缺乏足够的理解力和应答能力，也难以提供人性化的交流，且面临着系统升级和维护的高成本问题。需要更加智能和高效的机 器人客服解决方案 电销/电催话术提炼效率低 目前电销/电催的优秀话术提炼主要依赖于人工筛选和总结，效率低下，且难以充分利用数据潜力 业务痛点 由于目前的质检准确度较低，需要大量依赖于人工判断，不仅耗时耗力，而且难以覆盖所有场景。 登记工单效率低 目前客服坐席手动填写校对工单时耗时耗力、效率低，以及工单填写不规范导致工单处理时需要跟客户反复沟通、影响客户体验 打造“客服智能助手”赋能远程银行客户服务业务。按照通话前、通话中、通话后的端到端业务流程闭环，形成事前知识库运营提效、事中副驾驶赋能、事后质检守护，助力客服工作模式和效率的全面升级。 客服 客服知识库助手 利用大模型的自然语言理解、抽取和生成能力，实现了知识库的自动化和智能化管理，大幅度降低了人力成本和时间成本 话术推荐助手 通过实时理解对话情境和向量化的知识库，利用检索增强生成技术（RAG），实时推 事前 知识库助手 话术提炼助手 智能助手 事中事后 话术质检 推荐助手助手 工单助手 质检助手 通过大模型提示词技术，实现了质检的自动化，大幅提高了质检的效率和准确性。通过模型的情感分析能力，可以识别出客户和客服的情绪，提供更全面的质量评价 工单助手 从通话过程中自动提取客户的诉求和关键 项目目标 荐合适的话术，大幅提升了客服的效率和服务质量。话术推荐助手还可以根据客户的历史交互和偏好，推荐个性化的话术，增强了客户服务的个性化程度，提升了客户满意度 话术提炼助手 从现有电销/电催等非结构化数据中提炼优秀话术，丰富语料库 信息，自动生成规范化的工单减少客服手动填写和校对工单所耗费的时间和精力，提高工单处理效率，避免因信息不完整导致的反复沟通 系统架构规划 在线客服系统 呼叫中心系统 远程视频系统 OA系统 营销系统 催收系统 X 文本机器人 语音机器人 数字员工 … … … … 业务系统 员工助手子系统（希格马） 业务智能子系统 业务智能批量子系统 大模型管理子系统 应用 大模型 系统 聊天机器人公文助手 客服助手企业知识库 对话管理… 客服机器人催收机器人 … 文秘机器人投顾机器人 客服批处理机器人 催收批处理机器人 … 文秘批处理机器人 投顾批处理机器人 知识库管理 提示词管理 向量模型管理 功能权限 反馈数据报表 大模型管理 RAG服务管理 功能使用 平检索增强生成（RAG）服务子系统 智能体（Agent）服务子系统 配置报表 台知识向量化知识检索结果生成 推理规划工具使用认知反馈智能体 … 管理 模 型L0基座大模型 大模型（LLM）服务子系统 L1金融大模型L2场景任务大模型 向量模型 支撑数据湖智能营销贷后系统CRM系统 系统 用户中心…… 知识库助手 工历史对话 答对 •客户问题抽取•客户意图识别•客户问题改写•客服答案抽取 标准问 大模型 生成相似问 •抽象扩写规则 机器人转人 大模型 生成标准问 1、上传数据 运营0、访问希格马 2、生成知识库 3、导入知识库 •标准问扩写 用户在线咨询 在线客服机器人 检索答案 机器人知识库 话术推荐助手 智能在线客服系统 1、在线咨询 2、推荐回答 3、采纳回答 /自主回答 用户 大模型系统 坐席 •意图识别 •知识问答（问题改写、多路召回、重排序） •任务型对话（槽位抽取 、对话状态跟踪、对话策略优化和执行） 质检助手 1、上传原始对话 质检系统 2、推送质检结果 大模型系统 •语音转文字 •数据预处理 •识别差错点、差错等级、差错原因、原文 •逻辑一致性检查 3、审核质检结果并执行处罚 质检人员 话术提炼助手（研发中） 运营人员 1、上传成单对话和未成单对话 2、推送优秀话术 大模型系统 •语音转文字 •数据预处理 •从成单对话中提炼关键话术 •与未成单对话进行交叉分析对比差异 •逻辑一致性检查 话术库 外呼系统 、审核生成话术 3 4、人工外呼任务 4、自动化外呼任务 客户 工单助手（研发中） 1、客户来电 客户 3、返回工单要素 客服系统 2、上传原始对话 大模型系统 •语音转文字 •意图识别 •槽位抽取 •逻辑一致性检查 坐席人员 4、审核工单要素 5、创建工单工单系统 落地效果 1、客服知识库助手：大幅提升了在线客服机器人的自助解决率。 2、话术推荐助手：并行会话数从6通提升到8通，人效提升33%。 3、质检助手：质检覆盖率从不到10%提升到100%，质检准确率提升到70%以上，人效提升10倍。 挑战与解决方案 人效提升18% 人效提升33% 人效提升10倍