【Techday-AI 创未来·共筑生态】内容精选

智能体平台应用开发实践

腾讯云智能高级产品架构师赵旭东：基于TCADP平台打造“营销客服场景”解决方案

核心价值

• AI营销助手（营销转化）：开源模型提升成单转化率。
• AI客服助手（客服响应）：节流，降低客服人力成本。
• AI质检助手（风控质检）：节流，显著降低人工成本。

腾讯云智能体开发平台产品定位

• 大模型应用开发平台，提供RAG、Workflow、Agent框架，助力企业加速大模型应用落地。

腾讯云智能体开发平台：三大应用框架，满足客户多样需求

• AI营销助手：
  • 让智能体学习金牌销售经验，从话术辅助到逐步替代。
  • 某驾校客户用“AI营销助手”引导用户报名，提升成单转化率。
  • 学习金牌销售的角色风格和话术经验，提升检索召回质量。
  • 从金牌销售话术中检索召回，让大模型学习金牌销售话术，和其风格经验；大模型模拟金牌销售，并参考历史会话信息，与用户沟通；敷衍回答时，仍不断引导用户报名。
  • 高质量Prompt写法对端到端效果的影响至关重要。
    • Prompt包括SystemPrompt和UserPrompt；SystemPrompt:相当于导演给演员的角色设定和表演指导，例如：“你扮演一位经验丰富的医生，语气要温和而专业。”；User Prompt:相当于你给演员的台词或者问题，例如：“医生，我最近感觉身体不适，你能帮我看看吗？”。
    • Prompt优化对效果影响非常大；Workflow中某节点的prompt调整会影响其他节点或端到端的效果。
  • 参考历史会话记录。
• AI客服助手：
  • 基于问题处理SOP构建AI客服助手，逐步替代初中级客服人员。
  • 某智能硬件客户通过AI客服助手替代初级客服人员实现降本。
  • 方案对效果的影响： 1）保守方案：在sop范围内回答，超出转人工或兜底回复；2）开放方案：由大模型在一定范围内与用户沟通，尽可能抑制幻觉。
  • 家政管家使用AI客服助手场景效。
• AI质检助手：
  • 基于质检标准SOP构建AI质检助手，提升质检准确率，释放人力。
  • 某二手车客户通过AI质检助手大幅提升质检准确率。
  • 场景： 1）风控质检，担心绕过平台，私自建立联系等，捕获负向语义；2）SOP质检，品牌价值宣导、流程介绍等话术，捕获正向语义。
  • 指标要求：
    • 针对风控质检的场景飞车风险和私下简历联系方式的精准率和召回率85%。
    • 精确率=被预测正确的正例样本数量/预测为正例的样本数量；召回率=被预测正确的正例样本数量/实际正例样本数量。
  • Prompt写法。

TCADP核心优势

• 落地难点1（RAG）：基于复杂文档的知识库处理精准度问题
  • 落地难点2：识别精度低、元素易丢失。
• 亮点能力1（RAG）：全链路解决企业多模态知识处理难题，提升大模型知识问答体验
  • 基于OCR大模型，突破复杂版面分析、元素识别等技术瓶颈。
    • 业界首个支持200MB以上超大文档vs.业内普遍100MB内；丰富的文档类型，超过26类vs.业内普遍10类以内；支持图文混排（多列排版）版面分析、图文表/公式/页眉等元素识别。
• 落地难点2（RAG）：结构化表格数据庞大，检索困难
  • 综合使用摘要/关键词/向量检索、提升不规则大表格的问答准确率。
• 落地难点3（RAG）：用户对话信息多模态，包含图文交错复杂信息输入
  • 亮点能力3（RAG）：读懂理解文中“图文关系”，提升问答准确率及答案出图率。
• 落地难点4（Workflow）：对话与流程的耦合，工作流节点难以灵活跳转
  • 典型场景举例：问题1：已运行过的节点无法回退；场景：挂号场景中，更改过往已提取到的挂号科室。
  • 期望的表现：“科室”参数值改为“新生儿科”，并使用“新生儿科”运行后续的工作流节点；退出退订酒店工作流，并给出回复：“如果您有其他需求，请继续提问”。
• 亮点能力4（workflow）：解决业务中灵活的多轮对话难题，工作流提供智能方案
  • 工作流内置具有全局视野的Agent，负责接管对话、控制节点跳转、识别全局意图。
    • 对话接管：所有与工作流相关对话都会经过Agent统一处理；节点跳转控制：Agent根据用户对话内容智能跳转到对应节点；全局意图识别：全局识别“不继续执行工作流”等退出意图及“好的”、“没问题”等寒暄意图，并智能回复用户。