YonGPT用友企业服务大模型白皮书

白皮书 前言 1.1全球IT技术与产业创新进入以AI为中心的时代 全球IT技术与产业创新的发展呈现�几个显著的趋势。首先，人工智能和机器学习的应用正在各行各业中快速扩展，推动了自动化和智能化的进程。其次，云计算和大数据技术的发展，使得企业能够更高效地处理和分析海量数据，从而提升决策效率。此外，区块链技术的崛起，为财务、人力、生产、营销、采购等领域提供了新的解决方案。同时，5G、物联网等新兴技术的发展，正在推动智能城市、智能家居等产业的创新。总的来说，全球IT技术与产业创新的发展，正在推动社会进入一个全新的数字化、智能化的时代。 其中AI技术不断突破逐渐成为了产业创新的核心。首先，AI技术的发展改变了数据处理和分析的方式，使得大数据的价值得以充分挖掘，推动了各行各业的数字化转型。其次，AI技术的应用使得机器能够自我学习和优化，提高了工作效率，降低了人力成本，推动了产业升级。最后，AI技术的发展也推动了新的商业模式和服务模式的�现，如AI驱动的个性化推荐、智能客服等，极大地丰富了消费者的体验，推动了经济的发展。因此，我们可以说IT技术与产业创新已经进入了以AI为中心的时代。 1.2AI普及应用时代到来 人工智能的思想理论在上个世纪50年代被图灵、达特茅斯会议提�之后，人类由此进入人工智能的探索应用阶段；人工智能已是我们这个时代最前沿和普适的科学技术之一。从上个世纪五十年代人工智能理论的�现，到2012年深度学习和大数据技术的突破，再到2022年ChatGPT的生成式预训练大模型的成功，先后历经了探索应用、创新应用，现在进入普及应用的新阶段。同时标志着全球IT技术与产业的创新已从此前的以云计算为中心进入到以AI为中心的新阶段。 1.3数字化和智能化并重的全面数智商业创新时代 信息技术在企业和公共组织的应用在经历了电脑化、信息化时代后，进入到数智化时代。数字和智能技术在企业的应用也从此前的“数字化”阶段，进入到数字化和智能化并重的“数智化”新阶段。企业应用与服务模式也从信息化ERP时代的一体化，走向数智化BIP时代的融合化。业业融合（如产销协同）、业财融合（如智能定价）、业管融合（如即时绩效）成为数智时代企业业务创新和管理变革的潮流方向；主题化、融合化、智能化的创新应用成为 企业数智化推进的新目标。 YonGPT用友企业服务大模型综述 1.1用友BIP持续创新 用友公司在7年前战略投资，组织数千人的研发团队研发了新一代面向企业和公共组织数智化，成就“数智企业”的企业服务产品集：用友商业创新平台-用友BIP。用友BIP从研发伊始就坚持把数字化和智能化作为两个最核心和基本的特性，在数字化基础上，结合IPA （智能流程自动化）、计算机视觉、自然语言处理、知识图谱等智能技术，研发提供了一批智能化的应用与服务，已在一批企业中得到应用。 基于大模型的生成式AI是人工智能技术和应用的最新发展潮流。大模型的研发训练已成为全球产业界的风潮。在这场大模型的竞赛热潮中，用友首先选择做我们一直专注并且有优势的企业服务领域的大模型，而不是做通用语言大模型。领先和具有丰富应用场景的企业应用软件与服务产品体系、覆盖数十个行业的数百万客户基础、35年服务企业客户积累的行业知识经验、专业的智能化团队和能力是用友研发训练企业服务大模型的独特优势。在底层的通用语言大模型上我们与主流的模型提供商合作。 基于大模型的人工智能在企业服务领域的应用将主要集中在4个方向上：智能化的业务运营、自然化的人机交互、智慧化的知识生成、语义化的应用生成。用友企业服务大模型YonGPT围绕这四个方向在推进模型训练和产品效果优化。 用友企业服务大模型YonGPT是用友商业创新平台-用友BIP的重要组成。本次发布的是用友企业服务大模型YonGPT1.0和基于这个大模型的首批智能化场景服务。后面我们将继续迭代训练YonGPT，并不断丰富基于这个大模型的各类企业服务。我们希望通过包括用友企业服务大模型的用友BIP的创新产品和服务持续服务客户的数智化建设与运营，让数智化在中国和全球更多的企业与公共组织成功！ 1.2YonGPT概述 用友首次提�企业服务大模型概念，并在2023年用友BIP技术大会上宣布已启动企业服务大模型训练。企业服务大模型YonGPT，是用友融合企业各个领域专业知识和各类行业商业KnowHow，经过领域、行业数据的预训练和精调的企业应用服务的大模型，能够理解、解析各类企业数据，应用于各类业务场景，为企业提供智能化的人机协作、业务洞察、商业 决策支持和智能运营服务。 图1：YonGPT总体架构 用友企业服务大模型YonGPT是一种基于人工智能技术的智能模型，包含了财务、人力、供应链、采购、制造、营销、研发、项目、资产、协同10大领域场景深度认知和经验沉淀。用友在长期的业务实践中积累了大量的数据和行业经验，为YonGPT的构建提供了丰富的素材，使得模型能够更好地理解业务需求，更准确地做�决策。同时，用友在各个领域具有深厚的业务理解和专业知识，也为YonGPT的构建提供了重要的指导，使得YonGPT能够将业务知识与行业经验融入模型，确保模型的实用性和有效性。 1.3YonGPT核心优势 1.丰富的经验和历史：用友作为一家长期存在的企业软件和服务提供商，拥有丰富的经验和历史。用友已经为各种规模和行业的企业提供服务，积累了宝贵的见识和知识，为YonGPT提供了强大的企业服务的知识基础。 2.全面的解决方案：用友提供全面的企业服务解决方案，涵盖了财务管理、人力资源、供应链管理、客户关系管理和其他关键领域。这种综合性使客户能够在一个平台上满足多个业务需求，YonGPT也能够快速的在丰富的企业服务场景中落地。 3.强大的研发团队：用友在研发领域投入了大量资源，拥有强大的研发团队，致力于不断创新和改进其产品和服务。在AI方面已经做了多年的积累，有强大的人工智能团队，为YonGPT在企业场景的落地提供强大的技术支持。 1.4YonGPT核心价值 YonGPT能力通过和用友各领域产品能力的结合，可以实现对业务数据的智能分析、业 务流程的自动化生成，为企业提供全方位的智能决策支持和高效业务处理。在财务领域，YonGPT的文本理解和预测能力可以与用友的财务管理软件结合，实现对财务报表的智能解析和预测，帮助企业及时发现财务风险和机会。在人力资源领域，YonGPT的自然语言处理能力可以与用友的人力资源管理系统集成，为企业提供智能化的招聘筛选和员工绩效评估，优化人才管理流程。在供应链管理方面，YonGPT的预测和优化能力与用友的供应链管理软件相结合，可以提高供应链规划的精准度和灵活性，帮助企业降低成本、提高交付效率。在代码生成领域，YonGPT的编程能力可以与用友的低代码开发平台融合，实现智能化的代码生成，加速软件开发和升级过程。 现阶段YonGPT已经完成对于企业经营洞察、智能库存优化、智能人才发现、智能招聘、代码生成、智能预算分析、供应商风控、智能商旅费控等数十种应用场景的大模型赋能，后续YonGPT将会对用友的整个产品体系进行全面的能力覆盖。 YonGPT技术架构 1.1YonGPT技术路线 YonGPT不做通用领域大模型，而是在通用大模型基础上做企业服务大模型，主要原因是企业服务有三个特点，是通用大模型无法解决问题。比如，交互较灵活，很多API槽位是企业自定义；企业有大量结构化和非结构化数据，对权限和隐私控制十分严格；企业服务任务复杂、要求执行可控性高。 企业服务大模型可以很好解决这几个问题。首先以大模型为主的意图槽位收集。比如现有大模型不能直接根据一个用户的提问，去判断是属于哪个意图，完整意图还需要哪些项，经过YonGPT意图槽位的模型训练，能够准确收集30种意图的近百个槽位。对于有大量候选项的意图槽位，采用分批次训练进模型，以及根据语义检索相关候选槽位词的方式进行识别；其次，通过精调与prompt知识经验学习，将企业知识精调进模型叠加向量搜索上下文形成Prompt得到“上传文档即刻可搜可问答”。比如企业私域的数据量大，而且数据类型多。基于大模型的企业私域数据或知识问答，可以支持多种类型文本、标签提取，支持上传即可搜可问答，可以准确定位上下文，并且通过检索库+大模型能解决大模型生成问答编造问题，可以保证较高回答准确率；第三，通过大模型的执行链技术将复杂任务分解一系列微服务执行，把确定性交给已有系统或者小模型，不确定性和系统调度交给大模型。 图2：通用大模型基础上的YonGPT企业服务大模型 YonGPT通过大模型服务平台提供数据管理、大模型精调、大模型评估优化、大模型推理和插件服务等功能，为大模型的构建和服务提供稳定且有效的支撑。 数据管理模块使用户能够获取和管理大规模、多样化的数据集，并对其进行有效的处理 和加工，为大模型的训练提供了充足的训练样本，为模型的性能和泛化能力奠定了坚实基础。 大模型精调模块提供对已有的模型进行优化和调整的能力，针对不同业务和任务的需求进行模型优化，使大模型能够更好地适应各种实际应用场景，提供针对不同业务领域需求的高效优化方法。 大模型评估优化模块帮助用户全面对模型的能力和表现进行量化评估，并根据评估结果进行进一步优化，确保模型最终输�符合预期的能力。 大模型推理模块使模型可以在实时应用中进行快速推理，高效地处理新数据，并提供准确的预测结果，为大模型的实际应用提供了稳定而高效的支持。 插件服务提供了扩展大模型的能力的生态构建模式。该模式的灵活性和可扩展性使得大模型的应用领域更加广泛，也为生态伙伴的加入提供了便捷的条件。 1.2通用能力层 用友的通用大模型底座通过优化技术架构和算法，为业界各种主流的通用大模型提供了强大的支持，比如百川智能、智谱ChatGLM、百度文心一言等。这个通用大模型底座不仅提供了高效的计算和存储能力，还具备�色的可扩展性和灵活性，可以根据不同的需求进行定制化开发。此外，用友通用大模型底座还集成了丰富的工具和库，帮助开发者更加便捷地进行模型训练、部署和优化。通过与业界主流的通用大模型进行集成和优化，用友通用大模 型底座为企业提供了更加智能、高效和可靠的大数据分析和应用服务，助力企业数字化转型和创新发展。 图3：百川智能 1.2.1语义理解 用友YonGPT通用能力层具备完备的语义理解能力，其中包含： 自然语言处理(NLP)工具：语义逻辑模块的基础是自然语言处理工具，这些工具包括分词、词性标注、句法分析和语义角色标注等，将输入文本转化为机器可理解的结构。 实体识别(NER)：该组件用于识别文本中的实体，如人名、地名、日期、产品名称等，以提供更深刻的信息理解。 语义解析：语义逻辑模块负责将文本转化为形式化的语义表示，这可能包括语法树、语义图或逻辑形式，以便模型进行进一步的推理和处理。 推理引擎：推理引擎是用于处理语义表示的部分，可以进行逻辑推理、模型推理或概率推理，以便回答用户的问题或执行特定任务。 上下文管理：为了更好地理解对话或文本的上下文，语义逻辑模块需要追踪对话历史或文本段落的信息，并考虑先前的内容来生成有意义的响应。 知识图谱和外部知识库：模块可以与知识图谱或外部知识库集成，以获取有关世界知识和实体的信息，从而更好地理解和回答用户的问题。 自然语言生成(NLG)：在生成响应时，语义逻辑模块可能还包括自然语言生成组件，用于将机器生成的响应转化为自然、流畅的文本，以便与用户进行交流。 语义理解模块是YonGPT的关键部分，使其能够理解和生成自然语言文本，执行推理，识别实体，管理上下文，与知识库集成，并以有意义的方式与用户互动。 1.2.2内容生成 用友YonGPT的内容生成能力是指其�色的文本生成技能，能够以自然、流畅的方式产生有意义的文本。这种能力具有广泛的应用，不仅可以用于生成文章、报告、新闻稿，还可以用于代码生成等专业领域。 此外，YonGPT的内容生成能力还可以应用于自动化报告生成、翻译服务、自然语言生