认识ADP3.0里的大模型
第三方模型
- 名称:youtu-intent
- 曾用名:意图识别模型高级版
- 定义:用于意图识别,主要影响意图识别的效果
- 输入输出:最大输入8k,最大输出4k
- 场景描述:适用于同时配置问答、文档、工作流的场景,意图识别效果更佳,支持在角色指令中自定义配置意图,但可能增加对话耗时
- 可兼容模型:未明确列出
- 名称:youtu-mrc-pro
- 曾用名:精调知识大模型高级版
- 输入输出:最大输入7k,最大输出1-4k
- 场景描述:针对企业知识问答场景精调训练,擅长多模态知识问答,性价比相对更高,适合需要同时平衡效果、价格的场景
- 优势能力:支持图文关联输出、数据计算、表格问答、标签提取
思考模型
生成模型
- 知识库模型
- 问答生成
- 定义:用于意图识别,主要影响意图识别的效果
- 生成问答文档路径:应用开发-知识管理-问答-新建-从文档生成
- 知识库模型设置路径:应用开发-知识管理-知识库设置-知识库模型
- 知识库Schema
- 定义:主要影响阅读理解与答案生成的效果
- 描述:知识库Schema是描述知识库内数据结构的信息,向智能体应用提供知识库构成的依据,主要体现在应用的知识检索与调用效果上,需在应用内的知识管理处进行配置
- 数据类型:结构化数据(数据库)和非结构化数据(文档和问答)
- 非结构化数据:文档类知识指以文档形式存储的知识,包括Word、PPT、表格、图片等数据格式,Schema包含文档的文件名、摘要以及标签
- 聚类:当文档数量较多时,知识库Schema生成过程会自动对知识库进行聚类,生成文件夹名称和文件夹摘要信息
- 应用场景:多文档/问答对/表格结合回复、文档筛选后回复、复杂表格数据查询
- 知识库检索Agent:可在工作流或Multi-Agent中使用,自动进行复杂知识检索任务的拆解
- 知识库模型的选择
工作流里的大模型节点
- 定义:通过调用大语言模型,根据输入的提示词处理各类复杂的任务,满足用户业务需求,并且支持调整模型参数获取个性化输出要求
- 全系列生成模型可用
- 推荐模型:
- youtu-intent-pro:支持从待提取内容中提取用户设置的标签
- youtu-mrc-pro:支持用户输入问题并配置检索范围进行知识问答,输出大模型生成的回复内容
RAG模型
- Reranker模型
- 名称:youtu-reranker
- 名称:youtu-rerankeryoutu-reranker-llm
- 场景描述:用户提交问题后,系统会先在知识库内检索文档切片,再通过重排序模型对召回片段进行二次排序,从而找到最符合需求的内容,供应用生成更加精细的回答
- 推荐:未明确列出