知识引擎：分钟级打造大模型应用

分钟级打造大模型应用 知识引擎助力企业智能化创新 关于腾讯云智能 应用场景 知识问答 角色扮演 AI搜索数字分身 AI质检 8000项 AI相关专利 1000篇 论文入选全球顶会期刊 AI 助手 AI服务调用 专属模 型训练 语音 播报 刷掌 开锁 身份核验文字识别AI语音 AI中台 亚太第一中国第一 刷脸面容刷掌支付ID登录支付 客服语音 证件识别 票据识别 合同识别 运单识别 质检 产品全景图 语音对话 文字撰写 IDC发布的《2024年AI公有云市场份额（包括CV、对话式AI、自 然语言处理、智能语音、机器学习）》，腾讯云位居第一梯队。 入选IDC《MarketScape：2022全球通用计算机视觉厂商评估》。 中国唯一入围该报告的厂商，位于市场“主要玩家”位置。 AI应用 开发工具 训练 平台 原子 能力 基础设施 传统AI 大模型 MaaS层 生成式AI 行业大模型 基础大模型 唯一连续5年入选 入选Gartner魔力象限《2024全球云AI开发者服务魔力象限报告 》。唯一连续5年入围的中国云厂商；计算机视觉中国第二。 信通院产品能力最高等级认证 腾讯云TI平台获得信通院人工智能开发平台功能评测的最高等级认 证4级（国内首批），在全能力域的产品能力达到国内最高水平。 从Saas到Paas，腾讯云智能提供一站式DeepSeek解决方案 应用场景 数智人 企业内部知识助手 专业知识问答 售前售后服务咨询更多场景探索 开箱即用的应用原子能力API 开放 大模型应用知识对接 Paas层引擎 标签分类 知识问答 文档问答 知识摘要 文档解析 向量检索 文档拆分 多轮改写 意图识别 向量化 大模型API （混元DeepSeek行业模 型） 企业客户 快速构建DeepSeek落地应用首选腾讯云大模型知识引擎 RA 精调知识大模型deepseek 其他模型 客户数据 G 客户私域知识 工作流 业务流程外部工具 大模型工具层 TI平台 基础模型 大模型精调 解决方案 精调模型行业模型通用模型 企业专属模型 初级开发者 一键部署DeepSeek系列模型首选腾讯云TI平台 大模型 Maas层 医学金融教育出行行业大模 型 行业数据 无监督：百G文本 腾讯混元大模型 deepseek等 资深开发者 灵活组建开发专属模型服务 行业大模型 有监督：数百万条数据 基础大模型精选推理大模型 首选腾讯云DeepSeekAPI 算力平台（计算集群CPUGPU） 高性能计算网络架构 算力 平台使用对用户体验、系统便捷性和高可用性要求高 AI工程能力支持 OCR 多模态 语义切分 表格文字 综合检索 问题澄清 多轮对话 1、图文并茂、排版不规则2、流程形式多样、检索易出错3、涉及业务接口多、涉及反问澄清 企业内外部服务智能化转型需要关注的重点和难点 企业知识多为流程及操作性内容，形式丰富且复杂程度高 AI算法能力支持 1、用户体验 回答准确率 开始响应完成回答时间 用户评价及数据收集 上下文理解与多轮对话 问答输入与输出形式 2、系统操作对接便捷 知识库管理集中但权 限独立 知识文档维护便利 API方式对接，便于入口集成 3、安全、高可用 管理后台 角色划分、知识管理、运营调优 用户端体验答案形式、答案追溯、点赞点踩 任务型流程画布知识标签API调用 模型备案 本项目知识文档和数据安全 系统高可用，冗余和故障切换机制 自行训练 部分场景使用 AI 行业模型 开源模型 DEEPSEEKR1 部分场景使用 专属 知识库 世界观识别意图提取信息编排走向 Functioncall API 基础能力 API 业务能力 搭建企业级智能体应用，我们需要什么“装备” 模型基座 模型精调 检索增强 提示工程 workflow 企业智能体 商用模型 hunyuan行业大模型 从非结构化数据到向量数据 通过提示词引导模型完成对应的操作通过functioncall对接业务应用 API 数据能力 三大模式，助力分钟级搭建DeepSeek企业级智能体应用 标准模式 工作流模式 Agent模式 “RAG：最强知识外挂” “智能生产线” “AI指挥官” 平台内置最佳实践流程，只需导入文档问答对，即可达到更稳定和精确的知识问答效果。适用于企业知识服务、产品咨询等严肃问答场景。 使用指定的工作流来响应用户所有对话。如果你对应用的执行流程，有更加个性化的需求，可以通过工作流，来拖拉拽各种原子能力，编排你想要的流程。 Agent模式由大模型进行任务自主规划和工具调用 （functioncall），可实现高效应用搭建。适用于有灵活回复或快速搭建需求的服务问答场景。 标准模式：文、图、表多模态检索优化、能力升级 一站式创建、配置、发布智能体，从01搭建企业内部员工的知识服务平台； 深度结合私域知识库，让大模型结合垂直领域知识提供更加精准、专业的问答服务。 基于OCR大模型解析引擎 业内首个 语义切分大模型 Embedding 模型 多模态、多行业大模型阅读理解与生成 识别准确率提升3x 比传统正则切分方式， 回答完整性提升2x PEG检索模型斩获MTEB中擅长复杂图文表感知与理 文 榜单第一解 深入上百个客户的应用场景 亿级行业数据针对性训练端到端问答精准 推理生成 RAG能力套件：解析切分检索 图文混排pdf 上万行、百列超大表格 流程架构图 标准模式：文、图、表多模态检索优化、能力升级 query： 制动系统怎么保养？ 说明书样例腾讯云RAGDeepSeek：图文并貌的产品操作说明 工作流模式：面对复杂业务流程，支持用户快速编排应用 提供10画布节点，编排复杂应用，复杂流程的执行准确率和对话完成率效果领先。 适合处理过程复杂且分支较多、对结果准确性要求高的业务场景 通过可视化拖拉拽的方式编排不同的原 子能力，零代码低代码构建业务流程。 其中参数提取节点，支持多参数同时提 取、基于对话历史进行多轮反问澄清等优势能力，对话效果更优势。 大模型相关的节点均接入DeepSeek R1和V3模型，可支持自由选择和切换。 1信息收集节点 2信息处理节点 3基础节点 工作流模式：面对复杂业务流程，支持用户快速编排应用 支持多轮交互配套功能完善 多轮对话：多轮对话中，系统自动分析必填信息完整性，如果不完整则自动反问澄清，引导用户提供必填信息 灵活跳转：系统支持灵活的工作流跳转，每一轮对话都会由模型进行意图理解并使用最佳的达成方式满足该意图。 工作流调试：多轮对话调试，支持展示处理路径及详情。 节点调试：代码节点提供了运行环境及IDE，支持用户在线 编辑运行。 快捷反馈：为用户提供了一键问题反馈功能。 选中对话内容，支持查看 调试内容及历史处理路径 自动分析确定参数 跳过已获取参数的步骤 代码节点支持在线运行调试 Agent模式：自主规划和工具调用 由大模型自主拆解任务和规划路径，模型主动选择和调用工具，并能够主动纠错和反思， 回复效果更灵活。 Agent模式：自主规划和工具调用 传统画布：工程执行确定流程，超出 范围的问题无法灵活响应； 业界普遍：直接执行工作流，不支持多轮对话，或对话准确率低。 知识引擎新Agent模式：把工作流画布转换成流程描述语言（PDL），通过Agent理解全局流程，保证对话准确率基础上，以更加灵活的方式应对超出范围的问题。 无对应结果时，主动推荐符合要求的其他医院 超出范围问题，灵活响应 记忆上文的挂号时间信息 联网搜索内容审核：更全面，也更安全 问题知识防护侧算法防护侧答案防护侧 输入问题内容 拒绝回答 私域知识内容 模型兜底话术 模型对外形象 审核模型 文本合规辱骂文本涉黄文本广告文本涉毒文本不适宜文本 LLM 强化学习 避免垃圾数据生成 答案包含违规内容 答案正确且合规 金融合规 公开预测某个股涨跌公开推荐某个股 公开私募基金私密要素 审核模型 返回答案 拒绝回答 返回答案 【降低使用门槛】 联网搜索内容审核 【数据隔离】 持续降低工具使用门槛，让一线生产、经营人员“零门槛”用上大模型，减少对技术人才依赖，加速生产经验与模型技术融合。 【提高平台适配性】 未来，企业生产场景都将用AI重构。大模型工具，要能匹配、适应不断扩大的场景需求，同时兼顾效率与成本。 知识引擎保证不使用企业数据用于外部大模型训练，严格落地数据权限管理措施； 【数据加密】 加密技术，保证企业导入的私域知识的数据机密性和完整性； 【安全审计和监控】 知识引擎建立有效的安全审计和监控机制，及时发现和处理安全事件。 更多场景，持续创新，携手共赢 NO1 NO2 NO3 NO4 NO5 NO6 知识问答平台 智能分析与决策 数字人客服 智慧运维 智能编程 内容生产 这类应用场景需求突出，知识问答主要用于内部知识的高效分享，以及对外服务的提效。 通信、政务、能源、教科、金融等行业的招标人都偏爱这类大模型的使用场景。 这类场景主要是使用大模型进行分析，并指导下一步的行动。 比如智能招采场景，很多机构就用大模型对供应商做辅助评审分析；医疗领域，医院采用大模型帮助医生做辅助诊断等。 这个场景主要是用大模型提升客服服务能力，或者引入数字人作为数字客服。 客服机器人理解能力得以大幅提升，回答的精准性也大幅提高，降本增效的效果非常明显。 这类场景就是用大模型来提升运维的智能化水平和效率，或者对异常情况的提前预判等。 通信、能源行业较多的招标项目是用于此类场景。典型场景是运营商、电网的高效调度等。 这类场景是用大模型来提升研发人员编程的效率。 金融行业是对AI辅助编程需求最突出的行业，金融企业有一定规模研发人员，利用大模型进一步提升研发团队效率。 虽然内容生成是大模型突出的能力之一，但是存在一定幻觉。 金融、教科、传媒等行业客户开始尝试把大模型的生成能力用于研报内容生成、文档生成、媒体内容生成等场景。 谢谢观看