《YonGPT用友企业服务大模型白皮书》

深懂企业服务的垂类大模型 网信部备案编号:110108673625801240017号 白皮书(v2024) 01 02 11 22 27 34 37 目录CONTENTS 前言 YonGTP2.0：深懂企业服务的垂类大模型 智友YonMate，智能永相伴 友智库YonKnow，知识随意得 YonGPT在企业应用的核心方向 基于YonGPT的行业垂直大模型 YonGPT将持续进化 前言 当前，全球IT技术发展在先后经历了大型机-小型机-个人电脑（PC）-PC互联网-移动互联网-云计算之后，迎来了以AI为中心的全新时代。 2023年开始，以大语言模型、多模态人工智能、通用人工智能、生成式人工智能为标志的AI2.0 时代来临。AI2.0能够感知、理解、推理、学习等，在处理复杂任务和适应环境变化方面具有显著优势，实现从工具到平台、从赋能到再造的转变。 AI普及应用时代全面到来！用友网络董事长兼CEO王文京认为，AI技术在企业的应用经历3个层级：从感知级，如RPA、规则引擎、语音识别、图像识别、OCR等；到认知级，如NLP、机器学习平台、智能搜索、VPA、数智员工、知识图谱等；再到慧知级，最具代表性的就是大模型和智能体。 慧知级 认知级 大模型、智能体... 感知级 NLP、机器学习平台、智能搜索、VPA、数智员工、知识图谱... RPA、规则引擎、语音识别、 图像识别、OCR...时间 AI技术的3个层级 MorningConsult《2023年全球AI采用指数》报告指出，全球范围内，大约有42%的受访企业已在业务中积极部署AI。中国企业稳居第一阵营：近50%表示已在积极采用AI，85%表示未来2-3年会加速AI的采用，63%还表示正在积极探索生成式AI。 毫无疑问，AI给企业带来的是绝对变革！企业需要积极构建自身的AI竞争力，加速数智化转型、国产化替代、全球化运营，实现创新发展。 YonGTP2.0 深懂企业服务的垂类大模型 YonGPT用友企业服务大模型，是用友融合企业各个领域专业知识和各类行业商业KnowHow，经过大量业务数据的预训练和精调的企业服务大模型，帮助企业实现智能化的业务运营、自然化的人机交互、智慧化的知识生成、语义化的应用生成四大能力，为企业提供智能化的人机协作、业务洞察、商业决策支持和智能运营服务，是深懂企业服务的垂类大模型。 2023年7月27日，用友正式发布基于数字和智能技术、服务企业和公共组织数智化的最新研发成果——YonGPT1.0，也是业界首个企业服务大模型。YonGPT1.0创新发布了包括企业经营洞察、智能订单生成、供应商风控、动态库存优化、智能人才发现、智能招聘、智能预算分析、智能商旅费控、代码生成等在内的数十种智能应用。 经过一年的发展与训练，2024年8月10日，YonGPT2.0正式发布，沉淀了财务、人力、供应链等垂直领域模型，并实现更强专业能力和完善的大模型训练体系。YonGPT2.0与行业领先企业一起通过大模型平台、结合行业/企业应用中的知识与数据，训练提升行业/企业个性化的专业能力，将“繁杂的企业应用需求”与“通用大模型”之间的鸿沟连接起来，是深懂企业服务的垂类大模型，成为企业AI应用新引擎。 YonGPT发展历程 •2023年7月27日发布业界首个企业服务大模型YonGPT； •2023年8月19日发布6大场景：经营分析,大搜,人才发现,智能办公,智慧商旅,订单生成； •2023年10月基于RAG大模型问答上线应用,表格理解增强； •2023年12月基于Agent智友上线应用：多维查询、利税分析,推理加速优化； •2024年2月应用生成，实施脚本生成、RPA自动生成脚本,指令数据体系化； •2024年2月18日网信部备案（110108673625801240017号），表格理解插件化； •2024年4月2日入选信通院企业级人工智能应用首批成员,微调工程化； •2024年6月应用调用、ChatBI应用发布2.0框架形成； •2024年8月10日，YonGPT2.0正式发布，沉淀了财务、人力、供应链等垂直领域模型，并实现更强专业能力和完善的大模型训练体系。 YonGPT2.0架构图 •YonGPT2.0的目标是实现百亿模型（13B-33B，易私有化）企业应用的专业能力超过千亿模型； •YonGPT2.0通过3层中间层（大模型能力、大模型平台和应用框架）、4类应用抽象（业务运营、人机交互、知识生成、应用生成），将“繁杂企业需求”与“通用大模型”的鸿沟连接起来，成为企业AI应用新引擎，企业可定制开发AI应用； •YonGPT2.0通过1个大模型平台、2个框架（Agent和RAG）以及在应用中数据闭环，训练提升YonGPT的专业能力，是深懂企业服务的垂类大模型； •通过Agent的技能注册，将用友BIP中的API通过Agent调度，实现灵动化的企业应用创新平台（AIBIP）。 1个大模型平台:大模型微调训练平台 YonGPT大模型微调训练平台面向企业客户，结合企业专属数据，包含大模型开发工具，提供完整的模型微调、评估等产品工具，更快更高效地完成大模型应用的构建。同时，沉淀出通用服务能力，灵活支持企业进行智能服务应用场景落地。 YonGPT大模型服务平台，结合企业专有数据，微调出符合企业专有场景大模型，为企业提效注入动力。 2个应用框架：Agent和RAG “Agent”和“RAG”是基于用友YonGPT大模型基座的核心应用框架，支撑了用友十大业务领域的智能化业务运营、自然化人机交互、智慧化知识生成、语义化应用生成。 •Agent应用框架 Agent应用框架构建了用友自主产权的智能助理和数智员工产品“智友”，其核心是语义Query理解和任务的推理调度。针对复杂任务的语义，通过YonGPT大模型平台微调工具进行多种方式的精调，强化意图理解；基于意图理解，拆解出原子语义，将语义中每个子任务基于用友大模型的场景推理能力进行编排，形成任务链，再通过FunctionCall将语义转化成用友十大领域的API，并补全API参数，进而执行具体的任务。 目前基于Agent框架，用友已经完全实现了可自主掌控的智能体构建平台，在此平台上实现了AP级的数据分析类应用，以及TP级的流程化智能应用，Agent框架已经成为了用友构建领域AI应用的基础设施。 •RAG应用框架 RAG是用友洞察企业非结构化数据的核心应用框架，也是支持领域知识生成类应用的基础框架。不同于通用的检索增强框架，用友RAG框架基于用友丰富的知识生成场景，在文档解析、文档AI检索召回策略上做了深度优化，支持针对不同非结构化文档进行快速索引，根据业务知识库规范构建业务标签，利用知识图谱实现知识的关联化和体系化，最大限度的提升知识问答的准确性，以确保能在项目商用过程中切实为客户赋能。 为准确生成领域场景化知识，RAG框架实现了“多语义的向量库索引和倒排索引”的知识定位策略，并针对表格等格式化的知识做了专项的解析处理和切块处理，为基于用友YonGPT的企业化知识生成应用，提供了可问、可搜、可见、可伴随的落地能力。 8个关键能力 •能力一：PPT分析报告生成 业财数据洞察是企业中高层管理者重点关注的专题，特别是在当下经济情况下行的大环境下，作为企业管理者更迫切需要实时对企业数据进行分析，进而提升决策效率。用友YonGPT大模型基于行业化业财数据的高质量微调语料，通过大量的业财分析实例进行训练，大模型掌握了各类分析方法和分析路径。因此当输入待分析的数 据时，YonGPT可以凭借其掌握的数据洞察方法，理解数据的结构、数据指标间的勾稽关系，进而根据用户的输入需求给出具体的图文分析结果，并能以PPT分析报告的方式进行呈现。 •能力二：合同智能审核 基于项目云CLM合同管理产品，合同审核场景，YonGPT做能力支持。基于专有合同规则条款，加上企业专有合同业务数据，针对类似“该合同是否存在法过度承诺”法务风险条款，YonGPT能按照固定输出模式给出确定回答及分析内容。另外，针对通用合同审核字段，支持抽取展示合同内容。从而，在合同审批阶段，基于预置的通用审核项、结合YonGPT学习，数智合同可以快速定义企业合同审核规则，为企业的业务、财务、法务、管理层等关键角色提供专门的智能审核方案。 •能力三：合同生成 支持用户定义合同主题，大模型根据主题，分别进行通用合同目录生成、合同正文内容生成步骤。该过程中，用户在大模型返回目录后，支持用户编辑修改目录内容，然后进行合同内容生成。合同内容生成完毕后，支持用户下载使用。 •能力四：业务对象理解能力 YonGPT大模型是用友BIP平台AI智能化的引擎，对于BIP平台上各领域的对象数据进行了定向的微调，其可以理解BIP平台对象的各类属性，以及对象间的架构关系等等。通过对于业务对象的理解，可以辅助技术和业务架构师进行业务对象的优化和设计，并可以根据需求生成新的业务对象，提高产品的设计效率。 用友将YonGPT业务对象理解能力与低代码平台相结合，可以根据用户的需求智能化建立低代码平台上的各类对象，包括基础档案、单据对象等等，极大提升低代码平台业务系统构建的效率和灵活性。 •能力五：BIP代码生成 在BIP流程中心研发工程师，在代码编写过程中，大模型能帮助在安全检查、测试用例、解释代码，代码注释，生成优化建议、代码片段补全等场景下，提供帮助，提高代码产出效率。 •能力六：领域(财务、人力、供应链)知识增强 YonGPT大模型基于用友积累的30余年的业财数据进行定向的训练和微调，其在财务、供应链、人力等业务领域的知识厚度已经达到专家的级别。以财税知识为例，大模型不仅仅学习了各类财务制度、解读、准则等等，更为重要的是通过丰富的财税具体业务实例的训练，大模型可以对于财税实际问题给出一定的见解。比如通过对税务政策制度、税务解读的学习，可以根据企业相关数据推进税收优惠政策。 •能力七：表格理解能力 针对复杂、篇幅长的内容，用户可以直接提问。YonGPT基于长文摘要、身份代入、表格问答等能力，实现AI导读，其中表格理解能力包括对复杂表头、表体的解析，结合问题语义，对表格内容进行分析并给出推理答案。 •能力八：安全拒识能力 安全是AI原生应用的底限，尤其对于国央企的大模型智能应用，安全更是YonGPT在训练过程中考虑的首要因素，针对涉政、涉暴、涉黄、涉企业敏感私密信息等方面构建了严谨的微调语料，并在训练过程中不断更新安全语料知识，为客户特别是国央企客户提供一个安全可靠的底座模型。 6大核心优势 •支持推理场景服务 支持YonGPT大模型微调和推理，支持各类用友企业大模型的落地场景应用。 •完整大模型开发部署工具链 YonGPT大模型服务平台实现了全生命周期的各个业务流程的无缝衔接，包括大模型开发、训练、部署和应用开发的紧密结合，这极大地提高了开发效率。 •训练推理分离，不同企业用户按需选择 微调训练，支持用户定义；大模型推理服务支持用户定义；在模型训练完毕后，用少量资源去做推理，节省资源。 •支持多种三方大模型接入BIP 平台提供三方大模型配置能力，支持企业选择自己合适的三方大模型进行场景应用。 •Prompt工程及插件服务沉淀 基于大模型和提示词工程，落地专有大模型插件能力，帮助企业更快速接入服务应用。 •支持灵动化的企业应用创新平台 通过Agent的技能注册，将BIP中的海量API通过Agent机制精准调度。 核心价值 YonGPT致力于打造一站式人工智能服务平台，不但为企业降本增效，而且为企业带来更多应用创新的切入点。 YonGPT企业服务大模型的创新体现在对四个方向的理解：懂企业、懂领域、懂行业、懂企业系统API。 建设跨行业跨领域的多形态的企业服务大模型：融合财税、人力、供应链、研发等领域的知识和最佳实践，建立企业、领域、行业知识加工、精调语料生产、模型训练、评估、推理的平台。 实现面