您的浏览器禁用了JavaScript(一种计算机语言,用以实现您与网页的交互),请解除该禁用,或者联系我们。 腾讯:《从推理服务到 RAG 和 Agent 构建》-发现报告

从推理服务到 RAG 和 Agent 构建

2026-08-28 腾讯 Gnomeshgh文J
从推理服务到 RAG 和 Agent 构建

猜你想问

这份研报主要讲了什么内容?

本研报深入探讨了从推理服务到RAG和Agent构建的全流程。核心内容包括推理服务与Agent的关系,企业构建推理服务的痛点,推理服务架构(原子服务、自部署推理服务、Inference API),RAG和Agent的四条构建路径(探索期、深度定制、自主开发、一站式平台),以及相关工具与平台(Agent Builder、TCDataAgent、ADP+ES)。此外,还分享了舆情分析智能体和AI NPC的应用案例,并展望了未来企业AI-Ready数据、上下文质量竞争等趋势。

当前AI推理服务赛道的发展趋势如何?

当前AI推理服务赛道正朝着企业自部署、Inference API统一接口方向发展。企业自部署通过模型管理、一键部署、弹性伸缩等特性解决自建开源模型的成本和运维痛点。Inference API则实现外部模型API与自部署模型的双链路覆盖。未来,上下文质量将成为竞争关键,80%的AI构建工具将内置上下文工程能力,推动数据从静态记录转变为驱动业务执行的行动系统。

研报重点分析了哪些方向?

研报重点分析了企业构建推理服务的痛点,包括自建开源模型成本高、第三方模型选型难、工程化适配和持续运维挑战大。同时,详细介绍了推理服务架构的原子服务、企业自部署推理服务和Inference API。在RAG和Agent构建方面,提出了四条路径,并介绍了Agent Builder、TCDataAgent、ADP+ES等工具平台的应用场景。

目前AI推理服务市场处于什么阶段?

目前AI推理服务市场处于快速发展阶段,企业对自部署推理服务和Inference API的需求日益增长。原子服务如文档解析、文本Embedding等已较为成熟,但企业自建仍面临成本和运维挑战。RAG和Agent构建路径多样,从探索期到一站式平台覆盖不同需求。市场现状是技术快速迭代,企业竞争焦点逐渐从模型能力转向上下文组织能力。

研报提示了哪些风险?

研报提示的主要风险在于企业自建推理服务的成本和运维挑战,包括GPU月租、人力等隐性成本。第三方模型选型缺乏统一标准,组合复杂,可能导致效果不达预期。此外,上下文质量成为竞争关键,若企业未能有效组织和管理数据上下文,可能影响Agent的可用性和智能化水平。技术快速迭代也可能导致现有方案被替代的风险。