腾讯云大模型知识引擎 快、易、省的搭建DeepSeek企业级应用 程雪璨 腾讯云智能产品架构师 目录 01概述 02 大模型知识引擎产品介绍 03企业级的DeepSeek如何搭建及应用场景 04 案例实践 腾讯云全栈AI服务上线DeepSeek模型 通过DeepSeekAPI和应用开发平台多级能力,满足用户各类需求 (满血版) API服务:面向资深开发者企业开发者 (零代码) 知识引擎应用开发平台:面向初级开发者企业运营 腾讯云DeepSeekAPI服务调用安全、高可用 目标客户和场景: 面向具有一定开发能力的企业资深开发者,期望通过多款原子能力组建专属服务。 可结合文档解析、拆分、embedding、多轮改写等服务进行组装,定制企业专属AI业务。 主要优势: API服务更稳定、安全、易用;满足大批量使用,可以弹性扩容满足客户需求;支持购买专属并发; 限时免费试用(2025年2月25日235959前); 兼容openai的API接口协议,可快速调用体验。 腾讯云大模型应用开发平台“知识引擎” 免部署,分钟级搭建应用 目标客户和场景: 面向具备简单开发能力的初级开发者、企业运营人员。 可通过模型选择、提示词模版、RAG配置能力等加速大模型应用构建,实现与自身业务系统的无缝对接。 主要优势: 国内率先支持DeepSeek满血版私域知识管理实时搜索于一体 分钟级搭建大模型应用 集成私域知识库,让AI更专业,支持复杂图文混排文档解析 5 接入搜狗搜索增强API,一键开关,即可让DeepSeek实时获取互联网最新资讯,提升时效性和回答准确度 标准模式 内置RAG最优流程 工作流模式 指定工作流响应用户对话 Agent模式 调用插件复杂工作流响应用户对话 官方插件自定义插件 文档解析混元文生图 向量化(embedding) 重排序(rerank 多轮改写 文档解析拆分入库检索 文档拆分 文档解析 插件 原子能力 应用 腾讯云大模型知识引擎:基于大模型的应用开发平台 聚焦严谨场景,打造大语言模型应用开发平台提供LLMRAG、工作流、Agent多种应用开发方式,来助力企业及开发者,加速大模型应用落地。 应用场景 政务 一网通办 零售 电子说明书 文旅 虚拟导游 汽车 语音助手 金融 代理人辅助 腾讯内部产品合作 数智人 企点客服 腾讯学堂 乐享 大模型 混元大模型 turbo large standard standard256k 腾讯云行业大模型 精调知识大模型多模态大模型 金融教育医学行业大模型 三方大模型 腾讯云大模型知识引擎:三大应用模式,满足客户多样需求 标准模式工作流模式Agent模式 “RAG:最强知识外挂” “智能生产线” “AI指挥官” 平台内置最佳实践流程,只需导入文档问答对,即可达到更稳定和精确的知识问答效果。适用于企业知识服务、产品咨询等严肃问答场景。 使用指定的工作流来响应用户所 有对话。如果你对应用的执行流程,有更加个性化的需求,可以通过工作流,来拖拉拽各种原子能力,编排你想要的流程。 Agent模式由大模型进行任务自主规划和工具调用(functioncall),可实现高效应用搭建。适用于有灵活回复或快速搭建需求的服务问答场景。 要稳定选标准模式,要定制选工作流,要尝鲜选Agent! 文件助手 员工服务 专家助手 智能客服 跨栏段落 跨图段落 跨表段落 图表文环绕 复杂的子元素识别 段落内图像 表格内图像 段落内公式 表格内公式 把企业五花八门的知识库喂给大模型,没那么简单! 难点:企业知识格式多样、图文并茂 复杂的表格结构 少线表格 无线表格 有线表格 复杂排版的阅读顺序 横向多栏 纵向多栏 图图注群组 表表注群组 传统OCR技术局限:识别精度低、元素易丢失 大模型知识引擎强大RAG能力加持,搭建精准的知识问答应用 复杂文档解析、切分、检索、推理、生成准确率保持领先 高准确的综合检索能力 上线基于LLM的embedding模型,多文档信息召回率从85提 升到92;混合检索Text2SQL能力,提升超大表格单表检索及跨表检索准确率,SQL执行准确率80 通过SQL检索表格信息 Query “非智能且在售,并且一级分类是 天棚灯的产品包含哪些” 高准确的复杂文档解析、切分能力 基于OCR大模型,打造的解析引擎,突破图文混排版面分析、复杂表格识别等文档解析技术瓶颈,支持超过20类文档类型。 业界首个支持200MB以上超大文档vs业内普遍100MB内 丰富的文档类型,超过26类vs业内普遍10类以内 支持图文混排(多列排版)版面分析、图文表公式页眉等元素识别 识别精度高、图片元素不丢失 腾讯云RAGDeepSeek:充分考虑文、图两种模态的检索优化、能力打磨 说明书样例 “制动系统怎么保养?” 腾讯云RAGDeepSeek:图文并貌的产品操作说明 适合处理过程复杂且分支较多、对结果准确性要求高的业务场景 智能客服 开发票、挂号、预约试驾、政务服务 自动化服务 员工服务 报销、IT报修、预订会议室满意度分析 提供10画布节点,编排复杂应用,复杂 流程的执行准确率和对话完成率效果领先。 通过可视化拖拉拽的方式编排不同的原子 能力,零代码低代码构建业务流程。 其中参数提取节点,支持多参数同时提取、 基于对话历史进行多轮反问澄清等优势能 力,对话效果更优势。 大模型相关的节点均接入DeepSeekR1和 V3模型,可支持自由选择和切换。 大模型知识引擎“工作流”支持用户快速编排复杂应用 面向复杂业务流程场景,升级复杂应用构建能力 1信息收集节点 已支持DeepsSeek模型 2信息处理节点 均已支持DeepSeek模型 3基础节点 实用工具 办公提效 大模型知识引擎“Agent模式”:自主规划和工具调用 由大模型自主拆解任务和规划路径,模型主动选择和调用工具,并能够主动纠错和反思,回复效果更灵活。 大模型知识引擎“Agent模式”:支持调用复杂工作流 传统画布:工程执行确定流程,超出范围的问题无法灵活响应; 业界普遍:直接执行工作流,不支持多轮对话,或对话准确率低 知识引擎新版本Agent:把工作流画布转换成流程描述语言(PDL),通过Agent理解全局流程,保证对话准确率基础上,以更加灵活的方式应对超出范围的问题。 无对应结果时,主动推荐符合要求的其他医院 超出范围问题,灵活响应 记忆上下文挂号时间信息 落地案例:消费电子客户的智能客服 用于商用和家用路由器安防产品的技术支持,解答用户关于产品故障排查、产品配置、功能咨询等方面的问题 产品价值 转人工率20(大模型仅用1周)vs28(采用传统机器人通过几年运营) 产品型号多(1000,文档产品手册多(7500) 使用传统机器人FAQ配置复杂 传统机器人不智能,多型号产品应答效果差,导致转人工率过高 降低维护成本 直接导入7500文档,冷启动1周内完成 提升用户满意度 模型出图率达到70,转人工率降低8 严谨准确:结合多个相近知识片段,大模型精准澄清图文并茂:读懂知识库说明书图文关系,输出图文答案 知识库中有这3个相近的型号的相关文档: 产文档1《MS2600N产品介绍20220921pdf》 品文档2《TUMS2600NSA产品介绍20230105pdf》 亮文档3《TUMS2600NA产品介绍20230204pdf》 点 落地案例:某零售客户的专家助手,辅助团队内部了解多SKU信息 过去难点 1 公司内部有上万SKU,同一个产品名对应有不同的产品编码,客服团队在面临用户的即时问题时不太可能把所有的产品信息都熟记于心 2 过去公司内部用传统机器人来解答售后客服的实时问题,但C侧用户的问题无法被穷举 3 过去公司内部用传统 充机电器桩人类来问解题答涉售及后步客骤类服排的查实,时只问能题让,客但服C描侧述客问户题的后问依题赖无专法业被产穷研团举队进行一步一步排查 充电桩类流程问题主要依赖产研团队人工排查 传统机器人的FAQ无法穷举业务场景里的所有问题 司内SKU多,售后客服团队对产品的了解成本高 应用收益 户坐席产品研发 Before After 户 坐席知识引擎 提供面向上万SKU场景的产品问题咨询服务,服务于企业内部售后客服400 节省业务团队人力提高问题响应效率 企业IM群内机器人获取答案 落地案例:助力电力工业设备服务商,打造成套开关设备行业的随身专家,促进知识共享、提升工程师设计效率 积累700行业标准文档、近百份顶尖设计方案及工程师专业经验,公司近五年技术积累文档,确保提供全面、准确的标准化服务。目前已服务200多位工程师,平均单人提效50以上,并加速了工程师培养速度。 1 深术语定义 度 理 解10 行电能计量 业 全 流11 程特殊环境 2 钣金加工 9 地方标准 12 现场安装 3 机柜标准 8 南网标准 13 设备运行 4 电器元件 7 国网标准 14 柜体实践 5 成套安装 6 电工母线 15 文本创作 答案内容图文并貌,可读性好; 知识支持快速溯源,增加可靠性; 答案点赞点踩能力,方便了解一线反馈。 项目背景 公司内部ITHR等企业知识问答场景,传统检索知识获取精准性和检索效率低,对行政部门团队造成较大负荷 项目方案 大模型知识引擎集成到企业内部IM系统,员工通过对话形式高效检索且支持知识溯源,增加答案可靠性 方案效果 问答准确性:准确率89,有效解决了企业问答场景的行政系统类问题; 员工提效:转人工率由70降低到当前的40。 产品示例 落地案例:某头部电商的企业共享服务助手 落地案例:某头部国际快递企业的智能客服 通过可视化拖拉拽的方式编排不同的原子能力,帮助支持处理快递寄件、收件、信息查询等超过40类过程复杂且分支较多的任务,节省人工坐席工作量,提升业务服务效率和质量。 支持通过多轮对话自然地收集寄件地址和收货地等重要信息 通过大模型、代码等高级节点,解决快递费计算等问题 快递费用和到达时间查询的工作流 落地案例:为某头部医疗器械公司打造医生提效助手 输入文书 输出结构 湡胜兞 医生文书工作负担沉重:50以上的住院医生每天花4小时以上撰写病历,部分甚至超过7小时 湡倰呩 大模型知识引擎打通医院信息系统,基于患者入院后的主要诊断内容和诊疗情况, 智能生成病历文书,帮助医生减轻文书撰写压力 倰呩佪卓 入院记录 病程记录 信息提取 信息提取 首次病程记录日常病程记录 手术相关记录 手术记录 术后病程记录 会诊记录 检查报告单 X光超声 检验报告单 病历类别丰富:支持出院小结、首次病程记录、日程病程记录等多类; 辅助提效:智能筛选核心指标输出病历文书,显著提效。 血液尿液 病理资料 冰冻病理 常规病理 患者信息入院情况 诊疗经过 模型生成 随访建议 模型生成 输出示例 Thanks