代理式人工智能：初步实地反馈

核心观点

• IA 生成式技术的局限性： 尽管大型语言模型 (LLM) 具有强大的能力，但它们在处理复杂的企业流程时仍然存在局限性，例如知识截止日期、专业知识的缺乏、数据访问问题、任务管理困难和系统集成限制。
• IA 代理的概念： 代理 IA 是一种自主系统，能够规划行动以实现目标，与外部工具和系统交互，适应动态环境，并与其他代理协作。代理 IA 代表了从反应式工具向主动式和适应性系统的重要转变。
• 代理模式： 代理模式是代理 IA 行为的组织方案，描述了代理如何规划、行动、学习和与环境或其他系统交互以实现目标。常见的代理模式包括反思模式、工具使用模式、计划模式、路由模式、聚合模式、多代理模式和 ReAct 模式。
• 代理协议： 代理协议是规范代理之间、代理与工具之间以及代理与用户之间交互的规则集。三种主要的代理协议是模型上下文协议 (MCP)、代理到代理协议 (A2A) 和代理-用户交互协议 (AG-UI)。
• 框架的选择： 有多种框架可用于构建代理系统，例如 CrewAI、LangGraph、Agent Framework、Smolagents、OpenAI Agents SDK、Google ADK 和 LlamaIndex。选择框架时，应考虑哲学、架构、复杂性、环境偏好、力量和弱点等因素。
• 低代码/无代码： 低代码/无代码平台，如 Microsoft Copilot Studio、OpenAI AgentKit、Google Gemini Enterprise 和 n8n，可以帮助非专业开发人员创建代理系统，从而 democratize 代理式 AI。
• 代理评估： 评估代理系统需要结合定量和定性方法，评估的五个主要方面是任务完成情况、编排和协调、工具使用、推理过程、鲁棒性、安全性和合规性。
• 性能和可扩展性： 随着生成式 AI 的发展，性能和可扩展性变得越来越重要。设计模式和技术，如缓存、批处理推理、多区域推理和请求重试，可以帮助企业以经济高效的方式扩展 AI 系统。
• 权限和身份管理： 确保代理仅执行用户已授权的操作是至关重要的。这需要解决身份传播、跟踪和审计问题，并建立强大的治理框架。
• 网络安全： 代理式 AI 引入新的安全风险，例如代理的滥用、工具注入和提示注入。企业需要采取措施来保护其代理系统，例如使用身份验证、授权和监控机制。
• 错误管理： 代理系统中的错误可能由多种因素引起。企业需要建立机制来处理错误，例如“人类在回路”和 guardrails。
• 记忆管理： 记忆是代理 IA 的关键能力，它可以帮助代理学习和适应。记忆管理涉及四个主要支柱：工作记忆、语义记忆、情景记忆和程序记忆。企业需要建立有效的记忆管理策略，以确保代理的可靠性和安全性。
• 从承诺到价值： 代理 IA 具有巨大的潜力，但要将这种潜力转化为实际价值，企业需要采取一系列措施，例如从问题出发、优先考虑业务价值、采用渐进式方法、建立治理机制、持续评估、整合 FinOps 和构建意图明确的记忆架构。

关键数据

• 根据麦肯锡全球调查，72% 的企业报告说，它们部署的生成式 AI 解决方案在复杂的企业场景中未能达到预期的结果。
• Gartner 认为，近 80% 的 AI 创新计划失败了。
• 95% 的生成式 AI 项目没有产生可衡量的价值影响。
• Gartner 预测，到 2027 年，至少 15% 的日常专业决策将由代理 AI 自主完成。

研究结论

• 代理式 AI 是企业转型的重要战略杠杆，它可以帮助企业自动化复杂流程、提高效率、降低成本和创造新的价值。
• 企业需要采取一系列措施来成功实施代理式 AI，例如建立治理框架、选择合适的框架、评估代理系统、管理权限和身份、确保网络安全和管理错误。
• 记忆管理是代理 IA 的关键能力，企业需要建立有效的记忆管理策略，以确保代理的可靠性和安全性。
• 代理式 AI 的未来在于构建可信、可解释和适应性强的系统，这需要企业共同努力，共享最佳实践，并参与标准制定。