曾禹飞-增强AI能力的Agent实践RAG与Tool Use的协同效应

58同城AILab的曾禹飞在DataFunSummit # 2024上分享了关于增强AI能力的Agent实践，重点探讨了RAG与Tool Use的协同效应。

58同城平台业务背景介绍

58同城作为生活服务平台，致力于通过产业化（交易业务）将所有信息流程在线化和数字化，提升客户在房产、招聘等领域的效率。构建模型领先、敏捷易用的AI平台是加速AI应用落地的关键，目前大模型技术已支持内部超过70个业务和场景接入。

AI Agent的核心技术与挑战

AI Agent是以大语言模型为大脑，具备自主理解、感知、规划、记忆和使用工具能力的系统。核心技术包括：

• RAG（检索增强生成）：通过挂载文档（如私有知识库）提升大模型的回答能力。例如，用户询问天气时，系统需调用API获取地点信息后生成回答。
• Tool Use（工具调用）：基于大模型理解，Agent可调用API。实现方式包括ReAct（Reason + Act）、Hotspot QA、Act-Only等，案例涵盖信息检索、内容生成等。

RAG和Tool Use实践

• Agent方案设计：包括知识预处理、索引效果优化等。
• Agent插件和工具便捷使用：支持用户自定义插件和内置插件选项。
• Agent流程编排：提供自定义工作流，支持多轮会话和向量检索，实现全链路记忆管理。

应用案例

• B端商家智能聊天助手：利用RAG技术处理结构化和非结构化数据，提升招聘职位问答的效率。
• 销售场景：通过智能陪练（话术对练、考试、评分）和知识查阅功能，节省培训成本，提升销售技能和留存率。
• SQL智能助手：帮助用户快速生成SQL语句。
• 美事智能助手：提供个性化服务。

总结与展望

知识库的划分直接影响召回准确率，相关性低的知识会导致Agent能力无法充分发挥。未来需优化知识划分和选择，进一步提升Tool Use能力，以实现更高效的AI应用落地。