智能、安全、准确且经济 企业智能云盘方案之 AI+知识库应用 爱数解决方案副总裁李基亮 CONTENTS PART1 PART2 大模型企业知识库落地的需求与痛点 AnyShare智能云盘方案:安全、准确且经济的加速AI+知识库落地 PART01 大模型企业知识库落地的需求与痛点 传统知识库是企业常见的业务场景:但知识构建、运营难,应用效果差 价值 研发知识库 市场销售知识库 客服知识库 通用知识库:传统知识管理系统 •构建难:手工标签、分类难 售后服务知识库 生产制造知内识部库知识应用外部知识应用 •运营难:与业务流程或者业务系统脱节,给业务部门带来负担; •应用效果:传统的关键词搜索,难以理解业务场景和语义; IT服务知识库 设备维护知识库 开放性 业务专用知识库:客服知识机器人类应用 •构建难:手工构建问答对为主 制度规范知识库 •运营难:耗时耗力,业务部门难以持续构建 •应用效果差:难以理解用户语义,错答、泛化能力差; 大模型给知识库应用带来的新希望:知识组织、生成和应用智能化 场景化2B应用 内容、文档、知识类 通用2B应用行业通用场景数据 行业生产场景核心数据 2C现象级应用 网络自治 智能客服 运营商 视觉公开数据集 文档摘要 文档写作办公 智能风控金融 量化交易 语音 海量离散小模型向 少数大模型汇聚 语义 AGI 大模型 2023 智能对话 社交 模型能力开放 短文创作 模型基础能力 图片生成 消费 视频生成 代码开发 网站制作编程 精准获客 营销 调研报告 平面广告设计 商业文案 内容搜索搜索 医疗咨询医疗 辅助诊断 行业知识结合 结构化感知 城市 城市大脑 大数据分析 内容剪辑传媒 新闻采编 生成 OpenAI: 3~6个月 内容推荐 6~12个月 分子生成生物 智能教学 智能问答教育 Source:OpenAI、Frost&Sullivan、HWMI •未来80%的人,10%的工作任务场景将被GPT影响 •19%的人,至少有50%的工作任务场景将被GPT替代。 12~24个月 每个企业都应意识到:大模型+知识库是大模型落地企业的第一站 但是:大模型+知识库在企业落地,存在三大痛点 准确性经济性安全 大模型存在幻觉,必须严谨约束确保准确 •内容准确:必须使用企业内部数据,并结合知识图谱增强大模型的生成准确性, •场景准确:输出内容和范围针对特定业务场景或者用户的,精准推荐和个性化,范围可控; •可信:输出内容必须可信,有依据、可解释; 大模型落地要大幅降低TCO •大模型落地三大件成本高:GPU服务器、大模型集成开发、大模型应用产品的投入,成本高昂,动辄百万起,必须降低软硬件成本; •AI人才贵:智能应用涉及小模型算法、提示词、知识图谱/数据增强、智能体开发、应用开发等等多环节。降低运营、开发门槛,能够让大多数技术和开发,甚至业务专家能够快速、自主、可配置、灵活的开发智能应用机器人,是关键能力。 大模型要解决推理和数据安全: •数据安全权限可控:企业数据大多数是有权限管控要求,必须在安全可控范围内利用大模型的能力。 •大模型是黑盒模型:大模型作为黑盒模型,存在决策过程不透明、易受攻击、数据泄露风险高、难以解释和控制等安全隐患,可能导致误判、被操纵或信息泄露 PART02 AnyShare智能云盘方案 安全、准确且经济的加速AI+知识库落地 AnyShare智能云盘解决方案:基于DATA+AI架构加速AI+知识库落地 AnyShare智能云盘是集企业云盘与AI于一体的新一代云盘方案。它采用DATA+AI架构创新,深度服务于企业各类AI+知识库场景,基于AnyShare认知助手自定义各类知识库助手,员工可随时随地智能搜索和问答,轻松总结经验、撰写报告。是企业提升效率、优化管理、驱动创新的得力助手。 业务访问层 Windows客户端 Mac客户端 WebPortaliPhoneAppAndroidAppLinux客户端国产化客户端 AI+知识库场景研发知识库服务知识库制度规范知识库... 场景化机器人 应用层 虚拟盘 CAD预览/测量 多级文档库审核 AnyShare认知助手 智能问答 智能搜索 Office预览/编辑PDF预览/批注 共享与访问 辅助撰写 智能总结/摘要 平台层: DATA+AI架构 开放架构云原生架构内容数据湖 灵活的智能体编排能力: 准确性、场景适应性 联邦AI的推理能力: 安全、高效、低成本 知识增强能力: 准确性、场景适应性 爱数 TOME 领域知识网络领域大模型 丰富的AI+知识库场景:大模型赋能业务知识库 大模型+知识赋能业务运营,成为企业提升效率、优化管理、驱动创新的得力助手! 人力资源 市场营销 研发/设计 销售 制度规范知识库: 加速员工入职和促进标准规范“统一制度规范文档发布查询,促进企业内部的信息透明度,提高员工工作合规性,并在工作中遵循统一的标准。” IT服务 IT服务知识库: 提升企业内部IT服务效率和员工体验“管理IT服务资料手册,提升IT部门服务效率和员工满意度,降低服务压力,加速新系统部署和数字化能力提升。” 市场营销知识库:更快进入市场 “管理产品市场文档,更好的与经销商、生态伙伴协作,更快的进入市场,获得商机。” 法务证券 法务合同知识库/专利技术知识库:保持合规降低风险 “有效管理和保护企业的核心资产—知识产权,促进内部交流协作、提升工作效率和服务水平,并为企业的持续创新和发展提供坚实的基础。” 研发设计知识库:加快产品和技术创新 “管理研发设计规范和历史经营知识,规范研发流程并提升产品质量,减少重复发明轮子,加快产品交付效率” 设备维护 设备维护知识库:提升设备产能利用率 “管理设备维护资料和经验知识,减少设备故障中断时间,解决设备检修时间长、故障定位不准、设备检修经验知识流失” 销售知识库: 加速销售周期,完成更多交易“管理销售计划、销售指南和案例,使流动销售队伍加速销售周期,完成更多交易。” 售后服务 服务知识库:提高客户满意度 “统一技术、服务经验知识库,更好的赋能技术工程师和服务流程,加快问题解决速度,提高客户满意度和服务口碑。” 某大型企业集团:企业报销制度的智能化问答 智能报销问答演示视频 客户场景 集团内部有大量政策和制度,对于员工来说从海量的制度文件中找到自己所需的条款是比较困难的。比如新员工入职,对差旅相关的标准不了解,通常需要向行政部门咨询或者找到对应的制度文件查阅对应的标准,查找过程费时费力。 AnyShare认知助手最佳实践 AnyShare认知助手结合企业制度文档库,提供制度知识库问答。 用户通过自然语言的方式进行提问,AnyShare认知助手快速将差旅标准给到他。比如直接提问我是工程师,去某个城市出差,住宿费标准是多少?节省大量询问和制度查询时间,大大提高报销制度获取效率。 某大型汽车配件企业:SAP操作手册问答场景 SAP操作手册问答演示视频 客户场景 SAP通过命令进行操作十分繁琐,虽然提供了对应的操作文档以及常见问题的QA文档,但是内容太多且繁杂,命令的查找费时费力。 AnyShare认知助手最佳实践 基于SAP使用的场景问题及报错的QA文档,通过AnyShare认知助手实现SAP操作步骤的智能查询,轻松查询SAP操作指令及对应业务操作,以图文并貌向用户展示每一个操作步骤。 PART2.1 基于AnyShare智能云盘: 三步极速搭建AI+知识库 三步搭建AI+知识库:第一步,建立基本从文档协作和知识库管理规范 归档库 协作库(部门文档库)发布库(知识库) 文档管理规范 项目文档管理部门文档规范 常见活动及文档模版 找文档用文档在线共享协作智能搜索 智能问答辅助阅读 文案/报告助手 ... 知识库管理 业务领域 概念、政策、法规 知识库发布流程 知识库目录与权限 知识库范围 职能领域 制度、规定、指引、FAQ 标签体系 •业务对象标签(文档与业务对象相关)•业务域标签•其他专业标签 文档/知识编目 •业务对象描述•业务对象的BOM文档等; 知识治理 归档规范 档案管理系统(可选) 数字预归档 历史文档关联 ... 三步搭建AI+知识库:第二步,从部门库发布到知识库(自动化/智能化) 提交文档文档审核 自动标签/智能内容处理 文档发布入库版本关联 文档/知识发布通知 会议纪要 智能总结 02典型场景一:招投标资料的生产 基于投标项目的要求,创建文档模板,利用大模型可实现围绕着标题的扩写及主要内容的续写,加速招投标资料的产出速度。 0011 智能内容处理 将AI能力作为工作流的可配置节点,可以利用大模 型对文档进行自动化处理。 03典型场景二:项目会议的报告生成 项目现场会议音频\视频等会议文件上传至AnyShare中,通过工作流自动将音频转换成文本,并通过大模型基于模板总结生成会议纪要。 0011 智能Bot,精准回答 智能Bot根据用户的业务场景完成小而精的自定义 范围问答,答案更精准 三步搭建AI+知识库:第三步,配置智能机器人,实现场景化智能应用 自定义机器人 认知助手侧边栏 全部机器人 任务调试 文档预览侧边栏 02灵活可自定义的智能Bot 可根据不同的用户场景,选择不同的数据源(文档、文档库、WikiDoc、知识图谱(6.3版本上线)、外部数据源(规划中))与大模型,实现专属问答。 03多种访问方式 支持在认知助手侧边中选择智能Bot 支持在文档预览界面的侧边栏中选择Bot支持在全部Bot中查看并使用已创建的Bot 04与外部集成 智能Bot提供标准API可以便捷的与外部业务系统和 APP进行集成对接。 PART2.2 AnyShare智能云盘的一体化方案: 帮助企业安全、准确且经济的实现大模型+知识库落地 智能云盘的“一体化”方案:AnyShare+AnyDATA+大模型一体机 云盘应用 内容门户文档中心工作中心表格中心 Family7智能内容管理平台 “智能化”配置 选配:大模型一体机AD19000 必配:AnyShare认知助手+AnyDATA 生产AnyShare认知助手消费 经济性 能力层 辅助创作 •智能引用 •辅助撰写 •智能补全 •语法纠错 •全文撰写 辅助知识运营 •自动化知识主题 •主动知识推荐 •自动化知识聚合 •智能机器人精准知识问答 任务管理 •任务规划 •内容自动化 多端扩展 •Office插件 •同步盘 •客户端 •浏览器 智能搜索 •智能问答 •搜专家 •综合搜索 •图片搜索 •认知搜索 辅助阅读 低资源推理单块GPU实现百亿参数级别模型推理 •内容概述 低成本训练基于行业预训练模型,极低 finetune成本 •知识点 •智能问答 •关联文档 •关联专家 低成本部署一体机解决方案,0部署成本 领域认知智能引擎 领域知识网络 领域大模型 安全性 On-Premise BERT CLIP AD19000 偏见和歧视产品层封装设计(无开放问答),模型结果通过安全性校验 数据隐私基础模型训练数据脱敏,无非公开、 未经授权数据 数据安全完全私有部署,保障数据安全 大模型及一体机 领域认知智能引擎:基于AnyDATA,以大模型中立提供经济、准确、安全的AI能力 认知助手 AI能力 搜索 推荐 问答 生成 统一数据管理 模型工厂:统一模型管理 Benchmark模型微调 联邦AI模型接入及用 量管理 统一算力调度 混合策略资源可视化管理推理加速 异构芯片适配GPU调度优化 统一智能体管理智能体工厂 ... Tool2ToolN AnyDATA AI集成平台 领域知识网络 知识增强 DATA+AI能力 Benchmark •自动/任务规划•数据/知识增强 私域数据: •内存管理 结构化/非结构化机器数据 Tool1 •工具管理 大模型中立:私有大模型一体机或公有模型服务 On-Premise 爱数TOME BERT SaaS On