Agentic AI概述
Agentic AI 是人工智能发展的下一阶段，其核心特征是系统可以自主设定目标、做出决策并采取行动。与传统的AI系统不同，Agentic AI 不仅能响应指令，还能主动规划、推理和行动，以实现特定目标。Agentic AI 的演进过程包括：生成式AI（如ChatGPT）→ AI代理（具备感知、处理和行动能力）→ Agentic AI（具备语义理解、自主决策和目标导向行为）。
Agentic AI系统特征
Agentic AI 系统的核心特征包括：
- 自主决策：分析情况，权衡结果，独立做出决策。
- 目标驱动问题解决：将复杂问题分解为子目标，优先处理任务，动态调整策略。
- 环境适应与学习：持续学习，更新模型，适应未知挑战，优化操作。
- 多步骤规划与执行：制定和执行多步骤计划，根据数据、工具进行策略规划，并监控进度，调整行动。
- 自我启动行动：主动识别需要行动的任务，在用户意识到问题之前就进行处理。
- 高级神经网络的应用：学习数据中的模式，进行不确定性下的决策，无需标签数据进行学习，规划多步骤行动。
Agentic AI在政府中的应用
Agentic AI 在政府领域具有广泛的应用场景，包括：
- 提供政府服务：24/7公民支持、简化申请处理、个性化公民参与、欺诈检测、政策洞察、优化服务交付。
- 政府运营：监控承包商合规性、政策开发、预算规划、跨部门协作。
- 政府劳动力：解决人员短缺问题，员工培训，知识传承，人机协作。
- 国家安全：持续分析全球信息，识别威胁，加强网络安全，优化军事物流和供应链，提升战备水平，协调危机响应。
- 军事行动：将AI集成到军事装备，自动调整车辆系统，参与自主武器系统，压缩OODA循环，优化后勤和人员管理。
- 执法和刑事司法：分析数字证据，加速案件解决，预测犯罪，维护宪法权利，促进信息共享。
Agentic AI安全与治理框架
Agentic AI 系统的安全和治理需要专门的框架，包括：
- NIST AI风险管理体系 (AI RMF) + SP 800-53 Rev 5.2：提供治理、映射、衡量和管理功能，涵盖AI特定风险和基础安全控制。
- MITRE ATT&CK 和 MITRE ATLAS 框架：用于威胁建模，识别攻击者的战术、技术和程序 (TTPs)，以及针对AI/ML系统的攻击向量。
- MAESTRO 框架：专门针对Agentic AI的威胁建模方法，涵盖内存威胁、工具/执行威胁、身份验证/欺骗威胁、与人类相关的威胁和多代理系统威胁。
- ISO 42000 系列：提供AI管理系统的全球框架，包括AI风险管理、AI安全漏洞和AI系统隐私保护标准。
Agentic AI技术安全架构
Agentic AI系统的技术安全架构需要考虑以下方面：
- 安全开发生命周期：整合AI特定威胁建模，进行持续安全测试。
- 运行时保护：实时监控代理行为，检测异常决策，动态执行安全边界。
- 综合监控：跟踪自主决策过程、工具调用和多代理交互。
- 访问控制：动态调整权限，支持人机交互和代理间交互。
- 代理访问安全：审查新兴协议（如MCP）的安全风险，实施强认证、授权、沙盒和监控。
- 供应链安全：确保AI模型和训练数据的完整性和安全性，保护第三方组件。
- 事件响应和恢复：制定针对AI特定事件的专业响应程序，实施回滚机制，建立业务连续性计划。
- 隐私和数据保护：实施隐私保护技术（如联邦学习、差分隐私、合成数据生成），进行隐私影响评估，确保数据最小化。
- 测试和验证：进行综合安全测试，包括对抗性测试和验证框架。
- 国际标准对齐：与ISO/IEC标准对齐，管理跨境合规，确保全球互操作性。
Agentic AI的未来展望
Agentic AI的发展趋势对治理提出了迫切需求，因为技术进步、经济压力、劳动力变化和网络安全挑战相互交织，使得主动治理成为必要。当前，Agentic AI正从试点项目转向嵌入工作流程的代理，因此需要建立明确的规则，以确保这些系统为公共利益服务，防止形成不透明、不负责任的基础设施。
Agentic AI的治理路径
有效的Agentic AI治理需要采取以下措施：
- 超越被动监管：采取主动协调，预见和预防问题，同时促进有益创新。
- 系统性方法：解决Agentic AI的复杂性和影响范围，同时保持适应能力。
