阿里-徐志远-基于Multi-Agent框架的金融大模型应用实践

基于Multi-Agent框架金融大模型应用实践 徐志远 阿里云飞天实验室-通义点金产品负责人 www.top100summit.com 讲师简介 徐志远 TITLE “AI领域资深产品经理 先后任职于微软、阿里巴巴达摩院、阿里云飞天实验室 负责及参与微软小冰、阿里云智能对话机器人、通义听悟等多类型AI产品/项目长期专注AI/NLP/对话机器人/模型服务平台&Infra领域的商业化及产品化 阿里云-百炼大模型服务平台产品负责人金融行业大模型产品-通义点金产品负责人 ” www.top100summit.com 目录 •案例介绍：通义点金 •产品与业务视角的Agent/Multi-Agent定义 •基于Multi-Agent构建的金融大模型应用实践 •总结与分享 www.top100summit.com 案例介绍：通义点金 www.top100summit.com 案例介绍：通义点金 一分钟快速了解实践案例复杂Query理解 图文表格绘制金融事件分析任务编排执行财报研报解读 www.top100summit.com 实现路径 实现类似通义点金的自然语言交互智能投研助手的方式有哪些？ 软件开发 大模型+Plug-in Multi-Agent 实现方式 NLP+金融BI/金融RPA/API LLM理解+插件调度+指令执行+API Planning+Reasoning+Action+API 核心工作 功能设计、定义与开发 模型调优+Prompt工程+API对接 LLM选型+Agent框架+API对接 实现成本 中等 中高 波动性的高？ 可扩展性 中低-代码级扩展 中高-API级扩展 高-流程级扩展？ 实现难度 中等 中高 看模型？ 产品体验 确定性+优秀 不确定性+相对优秀 不确定性+不一定优秀？ www.top100summit.com 实现路径 大模型值得把所有产品重做一遍 如何做？怎么做？WhyAgent/Multi-Agent？ www.top100summit.com 产品与业务视角 Agent/Multi-Agent定义 Agent定义 定义：在LLM语境下，Agent可以理解为某种能自主理解、规划决策、执行复杂任务的智能体。 Signal-AgentMulti-AgentHuman-Agent 单智能体多智能体协同人-智能体协同 www.top100summit.com 可接受信息输入、基于信息自主规划决策、执行复杂任务的单体智能体 多个智能体组成，可协同工作、自主通信、交换信息，串并行协同执行任务的协同智能体 自主决策+人类反馈，基于自主决策及人类反馈共同执行任务的协同智能体 核心特征 www.top100summit.com 算法特征：Planning（规划与拆解）Reasoning（推理与分析）Action（执行） 工程特征： Agent（注册与管理）Cooperation（通信与协作）Memory（上下文记忆）Tools（工具使用集成） 业务特征： LLM驱动、业务理解、自主决策、易于连接、可迭代 Signal-Agent系统基本框架 www.top100summit.com 核心特征 Multi-Agent框架示例 斯坦福小镇-基于Multi-Agent自主决策多智能体构建的沙盒游戏 Agent之间完全采用自然语言交互，单体Agent自主决策及反思，具备长时记忆，基于记忆反馈优化执行 案例背景 产品与业务视角如何理解Agent/Multi-Agent？-以通义点金为例 Agent具备什么能力解决什么业务问题？带来什么增量价值？有什么问题风险？ 自主规划、自主决策自主执行，使用工具Agent间通信协作 长短时记忆，反思迭代 可以将业务中的复杂任务、用户的复杂需求拆解为子任务 可以自由调度工具，利用外部业务系统能力解决业务问题 可以协作，利用不领域的Agent解决不同领域的问题 LLM帮助用户获得答案，而Agent可帮助用户执行任务 帮助用户连接业务系统/外部数据，降低模型幻觉/不可控性 利用不同垂直领域Agent协作，降低Allinone的实现难度 依赖大尺寸LLM的推理和规划能力，推理成本较高 配套需要完整的Agent工程框架，需要业务深度理解原理 ROI如何评估，同时推理时间长，选择适用场景难点 问题思路价值 www.top100summit.com 通义点金的决策路径 金融领域Query复杂多变 单一LLM实现成本高，扩展性差幻觉接受度低，金融工具众多 实时市场数据RAG需要，可解释性需要 Multi-Agent架构 业务出发设计多领域Agent 可扩展的Tools及API接入，避免持续建设 可感知产品设计，白盒化Agent调度过程 金融场景下Agent+大模型应用范式，示范效用 验证通义200B/72B模型规划推理能力，推广200B基模 C端产品迭代，B端产品集成商业价值 www.top100summit.com 基于Multi-Agent构建 金融大模型应用实践 www.top100summit.com 业务实践 为什么业务选择金融领域落地 建立业务判断的指数衡量体系（参考，分值越高，越值得做） ： ： ： ： ： ： ： ： ： 领域垂直指数数据丰富指数业务价值指数算力资源指数示范效应指数任务复杂指数产品协同指数合规容错指数交付落地指数 产品实践财报和股价检索Agent Multi-Agent协同执行过程 www.top100summit.com 通义点金Multi-Agent执行示例 问题：2022年工商银行、建设银行、农业银行、中国银行的营收和净利润是多少?从高到低绘图表示，同时简单分析他们当年的经营状况 可视化Agent的绘图结果 ['2022-12-3100:00:00中国银行的营业收入是618009000000.0，净利润是237504000000.0', '2022-12-3100:00:00农业银行的营业收入是724868000000.0，净利润是258688000000.0', '2022-12-3100:00:00工商银行的营业收入是917989000000.0，净利润是361038000000.0', '2022-12-3100:00:00建设银行的营业收入是822473000000.0，净利润是 323166000000.0']], 可视化Agent 对应画图如下：GraphJSON代码 研报增强Agent '中国银行：22年营收6180.1亿元，YoY+2.1%；归母净利润2274.4亿元，YoY+5.0%；不良率1.32%，拨备覆盖率189%。\n农业银行：22年营收7249亿元，同比增长0.7%，增速较三季报小幅回落2.9个百分点；实现归母净利润2591亿元，同比增长7.4%，增速较三季报小幅回升1.6个百分点。\n工商银行：22年营收7758.3亿元，同比增长3.1%；实现归母净利润3106.8亿元，同比增长10.0%；不良率1.43%，拨备覆盖率231.8%。\n建设银行：22年营收8224.73亿元(-0.22%，YoY)，营业利润3819.43亿元(+0.84%，YoY)，归母净利润3238.61亿元(+7.06%，YoY)。'], 撰写Agent: 根据专家提供的信息，我们可以得出以下结论：\n2022年，中国银行的营业收入为618009000000.0，净利润为237504000000.0；农业银行的营业收入为724868000000.0，净利润为258688000000.0；工商银行的营业收入为917989000000.0，净利润为361038000000.0；建设银行的营业收入为822473000000.0，净利润为323166000000.0。\n从营收方面来看，工商银行的营收最高，建设银行次之，农业银行第三，中国银行最低。\n此外，根据研报增强专家提供的信息，我们可以了解到各家银行的具体经营情况，包括不良率和拨备覆盖率数据。\n综上所述，我们可以看出，2022年中国银行、农业银行、工商银行、建设银行在营收和利润方面存在一定的差异，但各家银行的经营情况都比较稳健，不良率有所下降，拨备覆盖率有所提高。对应画图如下：<chart_tag></chart_tag>']], www.top100summit.com 产品实践 通义点金Multi-Agent智能体设计 单LLM模型局限性 金融应用角度 -金融场景对实时性，准确性，-合规性，可靠性有极高要求 -完成金融场景任务往往需要多种能力 （知识获取，查询，分析，计算） 模型能力角度 -单模型能力分布不一 -单模型不具有实时性，并且存在幻觉问题 -单模型“一人分饰多角”，能力提升 -多模型协作能够实现能力互补和增强 多智能体设计 LLMs类智能体 -分工型 -补充型 -提问型 -总结型 工具类智能体 -时效性事实性增强专家：新闻检索 实时行情 研报财报百科知识 -可用性增强专家：可视化工具 图表&UI 通义点金多智能体协同链路 www.top100summit.com 产品实践 Multi-Agent产品设计经验-让用户可感知的Agent设计 白盒化、可干预、可视化、可解释数据反馈、模板化、场景化 www.top100summit.com 工程架构 Multi-Agent应用工程框架：围绕LLM构建的工程技术底座，最大化发挥LLM+Agent的能力，主流开源框架有微软的AutoGen、清华的Xagent，通义系列自研Agent开源框架也在研发中 www.top100summit.com 总结&分享 下一步可能性&建议 金融域应用： FinanceAgent+RPA 择时策略/组合优化/策略分析 开放域应用：多模态 物理输入+自主决策的Robotic 无限自由度的Agents类型的游戏 www.top100summit.com www.top100summit.com 总结 模型是大厂的，业务是自己的，客户是宝贵的，算力是缺少的 LLM+Agent+GPU搭台，想象力+数据铺路，业务认知唱戏 真实用户需求的洞察永远是第一位，无论是哪个时代，尤其是这个时代 人人都是产品经理>人人都是LLM应用开发者 www.top100summit.com 内容分享 播客及笔记资源分享：https://tingwu.aliyun.com/doc/transcripts/dej8nboolxxqpogw?sl=2#《AIAgent智能体真相和未来》 --科技早知道播客：专访DeepMind及英伟达AI专家-内容分享 --Agent相关论文及笔记分享&通义200B大模型限时免费调用&魔搭Agent社区 小程序版本仅有播客，无笔记资源，Web版可查看笔记 微信官方公众号：壹佰案例关注查看更多年度实践案例