智慧灯塔，照亮企业AI Agent实施明路-2024年AI Agent应用实践报告

1 报告编委 报告指导人张扬 爱分析 联合创始人&首席分析师 报告执笔人李进宝 爱分析 高级分析师 外部专家（按姓氏拼音排序）岑润哲 数势科技 数智产品总经理 于鸿磊 火山引擎 HiAgent产品负责人 特别鸣谢（按拼音排序） 目录 1.报告综述6 2.市场洞察8 3.数据分析AIAgent市场13 4.AIAgent开发管理平台市场24 5.结语31 关于爱分析32 产品服务33 法律声明34 报告综述 5|2024爱分析·AIAgent应用实践报告 1.报告综述 AIAgent是能够感知环境，基于目标进行决策并执行动作的智能化应用。随着大模型能力增强以及RAG等技术的成熟，AIAgent的能力得到了质的飞跃。这些模型赋予了AIAgent更接近人类的思维能力，再联动各类工具和组件，使得AIAgent在处理复杂任务时表现出前所未有的灵活性和效率。从智能助手、个性化推荐系统到自动化客户服务，AIAgent的应用案例层出不穷，它们在各行各业中展现出巨大的潜力和价值。 AIAgent具备三个核心能力：独立思考、自主执行、持续迭代。独立思考能力使得AIAgent能够根据任务目标和约束条件，进行任务规划和问题拆解，形成清晰的执行步骤；自主执行能力则允许AIAgent调用必要的组件和工具，按照既定的工作流依次执行任务；而持续迭代能力则确保了AIAgent能够基于任务执行的反馈，不断优化自身的性能和效率。 AIAgent作为这股浪潮中的新星正在取代Copilot，成为大模型应用的主流形态之一。自2023年6月以来，爱分析系统对百余家大型企业的IT负责人进行了深入调研，发现降低运营成本已成为企业用户落地大模型的首要目标。知识库管理、数据分析、营销与客户服务等场景，已成为企业用户落地大模型的主要应用领域，而这些场景的智能化解决方案，无一例外地指向了AIAgent。 AIAgent相关市场众多，其中数据分析AIAgent和AIAgent开发管理平台是企业在2024年关注度最高的两个特定市场。本报告将重点研究上述两个特定市场，通过对它们的深入分析，本报告旨在为企业用户提供落地AIAgent项目时的策略指导和实践洞见。 6|2024爱分析·AIAgent应用实践报告 市场洞察 7|2024爱分析·AIAgent应用实践报告 2.市场洞察 在爱分析对多家大型企业IT负责人的深入调研中，我们发现AIAgent项目的落地与应用普遍面临两大挑战：“落地难”与“应用难”。 “落地难”现象分析 企业在AIAgent项目上的进展缓慢，周期拉长。面对新经济局势，企业普遍采取节流降本的策略，IT支出亦受到显著影响。在此背景下，一些企业对AIAgent的价值认识不足，导致投入意愿低迷。然而，企业亦担心错失智能化转型的机遇，加之政策导向的推动，使得企业不得不推进AIAgent项目。 这种纠结状态导致AIAgent项目虽已立项，却因驱动力不足而进展缓慢。具体表现在，企业在市场调研到正式签约阶段，会进行过度的厂商调研，并要求多家意向厂商进行POC验证，其用时大约是同金额传统IT项目的两倍。 “应用难”现象分析 尽管企业通常选择在某个部门先行试点AIAgent，期待取得成效后再扩大使用范围，但实际情况并非总是如预期般顺利。许多员工更倾向于沿用传统工作方式，对AIAgent的采纳并不积极。这并非因为AIAgent的能力不足，而是企业文化缺乏必要的变革。企业需要在变革管理、激励措施或培训活动等方面进行投资，以促进员工对新技术的接纳和应用。 企业应结合自身特性，建立AIAgent与新质生产力、数据要素的内在联系，实现价值升华，以及建立AI文化，增强员工对AI的信任和基础技能。 市场洞察1：AIAgent是由模型、数据、算力、专家知识组成的新质生产力 新质生产力是以全要素生产率大幅提升为标志，本质是先进生产力，代表生产力迭代升级的方向。从现代生产力变革看，科学技术越来越成为生产力最主要推动力量，科技创新是发展新质生产力的核心要素。大模型作为当前科技创新的重要组成部分，以大模型为代表的新“智”技术是新质生产力的重要生产工具。 图表1AIAgent与新质生产力的关系 AIAgent作为大模型技术的重要应用，具备推理规划、记忆存储、知识沉淀、执行工作等能力，是智能化时代的新型劳动者，是新质生产力的代表。AIAgent生产过程需要算力、数据、模型、专家知识等核心要素的支撑。 市场洞察2：AIAgent是激发数据要素价值的重要手段 AIAgent作为智能化应用，是激发数据要素的重要手段。一方面是丰富数据应用场景，数据应用不再仅仅是数据报表、数据看板、自助分析等基础数据分析工具，还涌现出智能运维、营销助手、数字员工等诸多数据应用场景；另一方面，AIAgent大幅提升数据应用价值，特别是沉淀专家知识等非结构化数据，有助于企业内部数据资产化，提升数据要素流通效率。 图表2AIAgent与数据要素的关系 AIAgent对数据基础设施提出新需求。除了要满足国家数据要素建设标准（四大设施（网络设施、算力设施、流通设施、安全设施）和六大能力（数据汇聚、数据处理、数据流通、数据应用、数据运营和数据安全保障））之外，企业数据基础设施建设还需要充分考虑到AIAgent等大模型应用落地需求，在记忆存储、专家知识沉淀等方面提供支撑。 同时，AIAgent与数据开发治理工具结合，在数据治理、数据运营等场景有非常丰富的落地潜力，能够极大提升数据开发效率，减少数据工程团队和数据运营团队的工作量，提升企业用户综合数据能力。 市场洞察3：企业应从AI信任与数据素养着手，建立AI文化 德勤一项调研结果显示：“与其他企业相比，大力投资变革管理的企业称人工智能举措超出预期的可能性是平均水平的1.6倍，实现预期目标的可能性是平均水平的1.5倍以上。” 建立AI文化需要从AI信任和数据素养两方面着手。AI信任是指员工对企业构建强大人工智能系统的能力及其为他们带来利益的意愿的信任。数据素养则要求企业提升员工的数据意识，鼓励他们建立批判性思维技能，以正确提出问题并找到解决问题所需的数据。 数据分析AIAgent市场 12|2024爱分析·AIAgent应用实践报告 3.数据分析AIAgent市场 数据分析AIAgent作为企业智能化转型的关键工具，其落地实施需遵循以下三个核心要点：第一个要点：满足用户端到端需求，直接生成工作报告。 落地数据分析AIAgent需要坚实的数字化基础和较充足的预算，因此以央国企落地居多。央国企有大量汇报场景，包括日报、周报、月报、专项汇报等。央国企用户使用数据分析AIAgent，不止需要取数、图表和结论生成功能，更需要自动生成各类工作报告的功能。用户期望数据分析AIAgent能够简化报告准备工作，将原本耗时数小时的任务缩短至数分钟，从而显著提升工作效率。 一个数据分析AIAgent的生命力在于用户是否愿意使用。因此，基于用户需求端到端地直接生成报告更能打动他们。取数、图表生成、单点结论生成之类的“半成品”对用户而言价值度较低。 第二个要点：分项目推进，并优先落地面向企业高管的项目。 数据分析AIAgent应用范围广泛，可实现企业全员赋能。由于企业各群体需求不同，因此需要拆分出多个项目进行落地。以银行为例，分支行长、理财经理、数据运营团队对数据分析AIAgent的需求便存在明显差异，如果合并推进，难度较大。 在数据分析AIAgent子项目中，应优先落地面向企业高管的项目。其核心考量在于，设定AIAgent项目业务收益时，需要从顶层开始进行考虑。AIAgent本身需要获得来自管理层的大力支持，以及在公司范围内推动这项工作，那么针对管理层的赋能，或探讨如何使AIAgent为管理层带来价值，无疑是更为有效的切入点。 第三个要点：数据分析AIAgent有三条技术路径，企业应结合自身特性进行选择。 在大模型应用的早期阶段，一些企业试图通过大模型直接与企业内部数据对话，本质上是TexttoSQL，由于大模型可能产生幻觉，反馈的结果往往不够准确。发展至今，已出现三条技术路径用于提升数据分析准确率，并融入AIAgent方案之中。 1)数据仓库+宽表：企业采用“让大模型在数据仓库宽表中进行查询”的方式。该方式下，企业需要通过建模生成一张宽表，以便缩小查询范围来提升查询准确率，以及提升查询效率。其优势在于最大程度利用企业现在数据系统，改动和投入较小。 2)指标语义层：企业通过构建企业的标准化语义层，预设数据指标和标签的定义与管理，避免业务理解对不齐，让大模型可以更准确地理解用户需求。某城商行综合使用大模型、Agent和指标语义层，让非技术人员实现灵活取数用数。 3)图模型：纯粹的大模型方案仅改造了交互层，而未触及数据层。通过图模型表示数据层，可以提升准确率和问答及时性。某大型国有企业基于图模型方案搭建数据自服务平台，用数效率大幅提升。 案例1:大模型+Agent+指标语义层：赋能某城商行非技术人员实现灵活取数用数 银行业迈向“数据驱动”，灵活取数用数的情况愈发多见。银行领导在决策会议上可能需要查看某项指标变动；业务团队在复盘会议上希望寻找业绩下滑的原因；客户经理在撰写月报时需要进行各项指标的同比环比分析。尽管银行经营分析团队拥有BI系统的支持，但在实时、灵活地取数用数方面仍有进一步优化的空间。 2024年，大模型技术在各行各业加速落地，推动了银行业数据分析场景的全面升级。 01.某城商行存在40%的临时性数据分析需求，打造实时分析能力迫在眉睫 某头部城商行的内部统计数据显示，2023年临时性数据分析需求占总需求的40%，每天大约有20多个工单。这一现象揭示了该银行在数据分析领域存在巨大的即时响应潜力和优化空间。 面对这一挑战，银行经营分析团队通过灵活调整工作计划，积极应对数据分析需求的增长。然而，为了进一步提升数据分析的效率和响应速度，银行正在探索如何通过技术创新和流程优化，减少对加班的依赖，确保数据分析工作的可持续性和团队的工作生活平衡，并避免可能出现的工单积压情况。 工单积压的根本原因在于“分析资源供不应求”。该城商行中高层人数众多，业务团队更加庞大，经营分析团队资源供不应求。扩大团队规模并非最优选择，首先是因为经营分析岗位门槛和薪资都较高，其次该团队属于成本类部门，对于银行机构降本增效并无助益，增加人力投入内驱力不足。 工单积压的问题困扰着领导层、业务团队和经营分析团队。他们试图通过各种方式摆脱这一困境，大模型的兴起为其提供新范式。应用大模型是该城商行的战略目标之一，由副行长牵头，大力推动大模型在应用场景的落地。在大模型落地初期，该城商行选择了几个重点场景，数据 分析就是其中之一。他们希望通过大模型技术升级数据分析工作，以满足灵活数据分析的需求。02.指标语义层+Agent架构+反问机制+加速引擎+主流国产模型适配，数势科技脱颖而出 该城商行认为大模型项目具备强创新属性，更倾向与技术型创业公司联合共创，而不是传统银行IT服务商。经过对互联网大厂、大模型企业、数据分析企业等多类供应商的调研，最终选择了数势科技合作。 数势科技是一家数据智能产品提供商，旗下产品包括基于大模型增强的智能指标平台 （SwiftMetrics）、智能分析助手（SwiftAgent）、多实体标签平台（SwiftXDP）及智能营销平台（SwiftMKT）。SwiftAgent产品定位与该城商行需求高度契合。该城商行看重SwiftAgent的五项优势： 指标和标签语义层让SwiftAgent输出更精准的结果。许多企业试图通过大模型直接与企业内部数据对话，本质上是TexttoSQL，由于大模型可能产生幻觉，反馈的结果往往不够准确。数势科技通过构建企业的标准化语义层，预设数据指标和标签的定义与管理，避免业务理解对不齐，让大模型可以更准确地理解用户需求。 图表3SwiftAgent通过增加指标和标签语义层帮