AI智能总结
企业智能云盘方案之AI+知识库应用 爱数解决方案副总裁李基亮 CONTENTS 大模型企业知识库落地的需求与痛点PART 1 AnyShare智能云盘方案:安全、准确且经济的加速AI+知识库落地PART 2 PART01大模型企业知识库落地的需求与痛点 通用知识库:传统知识管理系统 •构建难:手工标签、分类难•运营难:与业务流程或者业务系统脱节,给业务部门带来负担;•应用效果:传统的关键词搜索,难以理解业务场景和语义; 业务专用知识库:客服知识机器人类应用 •构建难:手工构建问答对为主•运营难:耗时耗力,业务部门难以持续构建•应用效果差:难以理解用户语义,错答、泛化能力差; 大模型给知识库应用带来的新希望:知 识 组 织 、 生 成 和 应 用 智 能 化 但是:大模型+知识库在企业落地,存在三大痛点 准确性 经济性 安全 大模型存在幻觉,必须严谨约束确保准确 大模型要解决推理和数据安全: 大模型落地要大幅降低TCO •内容准确:必须使用企业内部数据,并结合知识图谱增强大模型的生成准确性,•场景准确:输出内容和范围针对特定业务场景或者用户的,精准推荐和个性化,范围可控;•可信:输出内容必须可信,有依据、可解释; •大模型落地三大件成本高:GPU服务器、大模型集成开发、大模型应用产品的投入,成本高昂,动辄百万起,必须降低软硬件成本;•AI人才贵:智能应用涉及小模型算法、提示词、知识图谱/数据增强、智能体开发、应用开发等等多环节。降低运营、开发门槛,能够让大多数技术和开发,甚至业务专家能够快速、自主、可配置、灵活的开发智能应用机器人,是关键能力。 •数据安全权限可控:企业数据大多数是有权限管控要求,必须在安全可控范围内利用大模型的能力。•大模型是黑盒模型:大模型作为黑盒模型,存在决策过程不透明、易受攻击、数据泄露风险高、难以解释和控制等安全隐患,可能导致误判、被操纵或信息泄露 PART02 AnyShare智能云盘方案安全、准确且经济的加速AI+知识库落地 AnyShare智能云盘解决方案:基于DATA+AI架构加速AI+知识库落地 AnyShare智能云盘是集企业云盘与AI于一体的新一代云盘方案。它采用DATA+AI架构创新,深度服务于企业各类AI+知识库场景,基于AnyShare认知助手自定义各类知识库助手,员工可随时随地智能搜索和问答,轻松总结经验、撰写报告。是企业提升效率、优化管理、驱动创新的得力助手。 丰富的AI+知识库场景:大模型赋能业务知识库 大模型+知识赋能业务运营,成为企业提升效率、优化管理、驱动创新的得力助手! 研发设计知识库: 市场营销知识库: 销售知识库: 制度规范知识库: 加快产品和技术创新 更快进入市场 加速销售周期,完成更多交易 加速员工入职和促进标准规范 “管理销售计划、销售指南和案例,使流动销售队伍加速销售周期,完成更多交易。” “统一制度规范文档发布查询,促进企业内部的信息透明度,提高员工工作合规性,并在工作中遵循统一的标准。” “管理研发设计规范和历史经营知识,规范研发流程并提升产品质量,减少重复发明轮子,加快产品交付效率” “管理产品市场文档,更好的与经销商、生态伙伴协作,更快的进入市场,获得商机。” 法务合同知识库/专利技术知识库: 设备维护知识库: 保持合规降低风险 提升设备产能利用率 提升企业内部IT服务效率和员工体验“管理IT服务资料手册,提升IT部门服务效率和员工满意度,降低服务压力,加速新系统部署和数字化能力提升。” “有效管理和保护企业的核心资产—知识产权,促进内部交流协作、提升工作效率和服务水平,并为企业的持续创新和发展提供坚实的基础。” “管理设备维护资料和经验知识,减少设备故障中断时间,解决设备检修时间长、故障定位不准、设备检修经验知识流失” “统一技术、服务经验知识库,更好的赋能技术工程师和服务流程,加快问题解决速度,提高客户满意度和服务口碑。” 某大型企业集团:企业报销制度的智能化问答 客户场景 集团内部有大量政策和制度,对于员工来说从海量的制度文件中找到自己所需的条款是比较困难的。比如新员工入职,对差旅相关的标准不了解,通常需要向行政部门咨询或者找到对应的制度文件查阅对应的标准,查找过程费时费力。 AnyShare认知助手最佳实践 AnyShare认知助手结合企业制度文档库,提供制度知识库问答。 用户通过自然语言的方式进行提问,AnyShare认知助手快速将差旅标准给到他。比如直接提问我是工程师,去某个城市出差,住宿费标准是多少?节省大量询问和制度查询时间,大大提高报销制度获取效率。 某大型汽车配件企业:SAP操作手册问答场景 客户场景 SAP通过命令进行操作十分繁琐,虽然提供了对应的操作文档以及常见问题的QA文档,但是内容太多且繁杂,命令的查找费时费力。 AnyShare认知助手最佳实践 基于SAP使用的场景问题及报错的QA文档,通过AnyShare认知助手实现SAP操作步骤的智能查询,轻松查询SAP操作指令及对应业务操作,以图文并貌向用户展示每一个操作步骤。 PART2.1 基于AnyShare智能云盘:三步极速搭建AI+知识库 三步搭建AI+知识库:第二步,从部门库发布到知识库(自动化/智能化) 将AI能力作为工作流的可配置节点,可以利用大模型对文档进行自动化处理。 典型场景一:招投标资料的生产02 基于投标项目的要求,创建文档模板,利用大模型可实现围绕着标题的扩写及主要内容的续写,加速招投标资料的产出速度。 典型场景二:项目会议的报告生成03 项目现场会议音频\视频等会议文件上传至AnyShare中,通过工作流自动将音频转换成文本,并通过大模型基于模板总结生成会议纪要。 三步搭建AI+知识库:第三步,配置智能机器人,实现场景化智能应用 智能Bot,精准回答智能Bot根据用户的业务场景完成小而精的自定义范围问答,答案更精准 灵活可自定义的智能Bot02 可根据不同的用户场景,选择不同的数据源(文档、文档库、WikiDoc、知识图谱(6.3版本上线)、外部数据源(规划中))与大模型,实现专属问答。 多种访问方式03 支持在认知助手侧边中选择智能Bot支持在文档预览界面的侧边栏中选择Bot支持在全部Bot中查看并使用已创建的Bot 与外部集成04 智能Bot提供标准API可以便捷的与外部业务系统和APP进行集成对接。 PART2.2 AnyShare智能云盘的一体化方案: 帮助企业安全、准确且经济的实现大模型+知识库落地 智能云盘的“一体化”方案:AnyShare+AnyDATA+大模型一体机 领域认知智能引擎:基于AnyDATA,以大模型中立提供经济、准确、安全的AI能力 基于AnyShare权限体系+AnyDATA提示词与智能体评估,确保大模型安全合规 核心能力之一--知识增强:领域知识网络增强智能体准确性和场景适应性 核心能力之二--联邦AI:按需调度AI,高效、低成本且隐私保护 自动模型选择 根据特定任务Benchmark选择满足任务效果要求的最小模型,最大化利用计算资源 自动参数优化 根据可选参数组合进行批量效果测试,自动优化智能体整体效果 在线服务AB test分流测试 定期对线上智能体效果进行受控流量下的AB test,在可选模型中发现更优组合 核心能力之三--可灵活编排的智能体:轻松搭建高适应性的智能体 智能体工厂的智能体们作为数字领域的得力助手,将业务流程中的各个环节巧妙地串联起来,用户无需关心技术细节,只需关注业务需求。通过逻辑块的高度封装,用户可以轻松选择数据源、描述业务需求、添加定制逻辑,实现业务流程的自动化和智能化。 智能体处理流程的起始点,负责接收输入数据 •query增强:例如用户搜索“高血压的症状”→“高血压症状风险因素饮食建议治疗方法”(通过知识图谱识别出“高血压”与相关症状、原因、治疗方法和预防措施的关联)•query重写:例如用户搜索“纽约市中心住宿”→“纽约市中心五星级酒店,包括时代广场附近的酒店”(大模型根据用户历史搜索行为改写查询) 召回逻辑块是智能体中负责信息检索的模块,它通过添加知识图谱和AnyShare文档数据源来确定搜索过程中应该覆盖的信息范围。通过结合知识图谱和丰富的非结构化文档数据,提高搜索的质量和效率。 LLM逻辑块是智能体中用于处理语言任务的模块,它通过接收用户输入的提示词,并选择合适的大模型进行处理,执行特定的任务或回答相关问题。同时还支持添加多种内置工具,增强处理能力。 智能体处理流程的终点,负责输出最终的处理结果 核心能力之三--智能体产品示意图 •智能体工厂的智能体们作为数字领域的得力助手,将业务流程中的各个环节巧妙地串联起来,用户无需关心技术细节,只需关注业务需求。•通过逻辑块的高度封装,用户可以轻松选择数据源、描述业务需求、添加定制逻辑,实现业务流程的自动化和智能化。 个性化定义Bot提升准确性(典型RAG) 场景描述:公司或者某个部门的系列制度、行业标准知识库的智能问答(找资料并定位到相关文档段落) 展望:未来的知识工作者 “Human-AI”结合知识工作者 知识工作效率比传统工作者高1-2个数量级 THANKS 地址:上海市联航路1188号浦江智谷8号楼2层A座咨询热线:021-5422 2601服务热线:400-880-1569客服邮箱:support@aishu.cn 爱数愿景以数据重塑生产力,共创智能世界Vision:Co-creating a smarter world with smarter data