2026年人工智能体时代基础设施效率与创新核心举措报告

核心观点与关键数据

• agentic AI 对基础设施提出新标准：83% 的组织认为其基础设施需要升级以支持生产级的 agentic AI 系统。agentic AI 工作负载正从训练转向推理，推理占 AI 工作负载的 47%。
• 治理是扩展推理的先决条件：4/5 的领导者将安全、治理和 MLOps 视为扩展推理的主要挑战。成熟治理的组织的 AI 采用速度更快。
• 混合多云成为 AI 部署新标准：52% 的组织采用混合多云架构，90% 认为边缘部署很重要。边缘部署可降低成本、提高速度并增强运营弹性。
• 效率成为关键要求：91% 的领导者将功耗纳入硬件选择，61% 将能效视为主要或重要因素。能源效率和合规性法规成为增长的双重障碍。

研究结论

• agentic 就绪差距：传统架构无法满足 agentic AI 的需求，导致速度限制和“推理税”。agentic 系统需要持续智能的基础设施，以保持跨复杂工作流的上下文。
• 云迁移再燃：企业正转向 AI 就绪的云平台，以解决数据景观碎片化和遗留基础设施问题。高级 AI 采用者更倾向于使用完全或主要受管理的服务。
• 成本效率至关重要：96% 的受访者认为成本效率对其 AI 基础设施决策很重要。隐藏成本包括数据出口费、存储需求增加和闲置硬件。
• 治理驱动全栈云平台迁移：80% 的领导者将数据合规性作为基础设施选择的首要因素。云提供商已成为安全 AI 策略的主要支柱。
• 混合架构策略：企业应平衡云硬件与边缘计算，以降低成本和提高速度。架构应从第一天就考虑本地管辖权，以满足当地法规。
• 为 agentic 生产而构建：成功取决于部署的代理的效率和可靠性。领先的组织正在投资核心基础设施和运营，以支持 AI 项目的进一步发展。

建议

• 现代化基础设施：采用现代云平台和受管理的服务，以降低复杂性并提高效率。
• 为规模而构建：利用编排平台连接代理和系统，自动化工作流并集中监控。
• 治理为默认设置：使用 Secure AI Framework (SAIF) 将安全嵌入 AI 开发过程。
• 集中平台监督：使用统一平台管理代理权限和工作流，实现人类监督。
• 采用混合架构策略：平衡云硬件与边缘计算，并考虑本地管辖权。
• 平衡负载：使用混合多云策略，将高容量工作负载保留在本地硬件，将更昂贵的查询保留在集中式云架构中。
• 使用合适的加速器：通过匹配正确的硬件来最大化能效。