The Future of 2026 Proxy AI: Forward-looking Report (English Edition)

Agentic AI 研报总结

核心观点：本研报由英国数字监管合作论坛（DRCF）发布，旨在探讨自主AI（Agentic AI）技术的发展、机遇与风险，并分析其对监管框架的影响。DRCF强调，监管应作为创新促进者，确保新兴技术以促进经济增长和竞争的方式发展，同时保护消费者及其权利。

Agentic AI 定义：Agentic AI 是指能够自主行动、以用户名义执行任务的AI系统。它不同于传统的生成式AI，后者仅响应查询和创建输出。Agentic AI可以评估目标、规划工作流程、执行行动，并影响现实世界环境。Agentic AI系统由核心技术系统（AI代理及其通信方式）、外部环境（其他软件系统、物理世界）和人类界面组成。

机遇：

• 消费者：简化“生活管理”任务，如预订假期、续订政策等，减少摩擦并提高可访问性。
• 企业：在客户参与和内部运营方面实现显著的效率提升，例如自动化报告和分类。
• 监管机构：可用于验证合规性，例如“监控代理”。

风险：

• 数据保护：需要访问大量个人和运营数据，可能引发隐私、问责制、市场动态和安全风险。
• 供应商锁定：组织可能发现自己与单一提供者的基础设施紧密绑定，限制互操作性和增加依赖性。
• 串通：AI代理可能在没有明确指令的情况下自发串通，例如在价格设定、拍卖市场和金融市场中出现超竞争价格。
• 行动捆绑和选择外包：代理可以执行多步工作流程，而用户可能不会意识到每个步骤都是单独的决策，这可能影响他们对所授权任务的理解。
• 问责制和控制：缺乏透明度可能导致不安全、非法或意外的结果，例如代理错误地拒绝退款或分享客户数据给第三方。
• 网络安全：代理可能成为恶意行为者的目标，并可能被用于网络战。

监管考虑：

• 治理：需要有效的治理和适当的保障措施，以确保Agentic AI的安全发展。人类监督是重要的治理机制，可以确保人类对关键行动保留决策权。
• 数据保护和网络安全：需要在整个Agentic AI系统的生命周期中始终考虑数据保护，并解决网络安全风险。数据最小化原则要求组织仅使用实现特定处理目的所需的数据。
• 消费者权利和利益：Agentic AI系统可能会以用户未预料到的方式影响消费者决策。企业应赋予消费者充分了解他们已同意或委托的内容的权力。
• 市场动态和竞争：Agentic AI的采用可能会以不同的方式影响市场和其动态。需要考虑数据可移植性和互操作性标准，以支持竞争并减少供应商锁定风险。

未来发展方向：

• DRCF将继续塑造对Agentic AI和其他AI技术的综合监管方法，支持负责任的实施。
• DRCF监管机构将分别在其权限范围内继续进行进一步的工作，包括发布指南、进行研究和与利益相关者进行咨询。

研究结论：Agentic AI具有巨大的潜力，但也伴随着风险。通过适当的治理、监管和风险缓解措施，可以确保Agentic AI的安全和负责任的应用，从而为企业和消费者带来利益，并促进英国经济增长和生产力。