市场趋势显示,Agent技术即将迎来爆发式增长,其核心在于大模型时代下思考能力、行动能力和系统保障的深度融合。然而,AI智算需求增长的同时,模型思考和工具使用效率的提升也带来了运维难度的显著增加。
为应对挑战,腾讯云智算推出更贴近Agent的AI原生云解决方案,主要升级包括:
1. **更快的模型推理**:
- AI Infra底座与高性能软件升级,使推理集群性能发挥至极致。
- 支持多种模态推理加速,腾讯自研推理引擎覆盖生文、生图、生视频等模型。
- PD分离部署、模型量化及TACO Kit推理加速引擎进一步优化推理效率。
2. **更灵活的工具集成**:
- 发布AgentRuntime云沙箱,为Agent提供安全隔离的执行环境。
- 云沙箱专为大规模、生产级智能体设计,原生兼容社区沙箱,接入门槛低,减少适配成本。
- 安全隔离功能支持身份权限控制,保障环境数据安全;100ms极速启动进程快照技术,支持高达数十万每秒并发数,超高并发创建容量支持AgentRL等密集型任务。
3. **更可靠的系统守护**:
- 发布Cloud Mate云专家服务智能体,基础设施向主动服务跃进。
- HAI联合Tairos提供具身感知/规划模型服务,AI原生远程终端作为云端智能伙伴,让服务器“带内”操作如对话般简单,支持脚本/命令生成、应用部署、业务排障、命令纠错/解释及智能补全等功能。
腾讯云智算凭借卓越性能,获得国际机构和各行业客户的广泛认可。