谭云志_基于LLM的智能数据分析平台在腾讯的落地实践

大语言模型（LLM）的核心能力：
- 语言能力：理解和处理人类语言，分析文本、表格等数据，实现自然语言交互。
- 工具使用：调用工具和生成代码（如text2api、text2sql等）。
- 逻辑推理：发现数据中的模式、趋势和关联性。
- 学习能力：通过少量优质数据集微调，快速学习领域知识，模型迁移成本低。
OlaChat智能BI平台：基于LLM和腾讯大数据平台，提供自然语言交互，降低数据分析门槛。

智能的多任务对话系统：
- 包含上下文理解、意图识别、自然语言理解、对话状态跟踪、对话策略、自然语言生成等模块。
- 支持拒绝/澄清、引导/推荐等交互方式。
元数据检索增强（MetaRAG）：
- FlattenedRAG（F-RAG）：通过枚举元数据组合，将结构化元数据转化为非结构化问答知识库，准确度高但长尾问题解决能力弱。
- StructuredRAG（S-RAG）：利用元数据结构特性，先召回核心数据需求再过滤召回修饰条件，准确度稍低但能有效解决长尾问题。
泛数据分析架构：
- Text2SQL：
  - 真实业务场景存在的问题：大模型对业务数据理解不足、稳定性和准确率不够。
  - 高准确率Text2SQL模型需要高质量训练数据，但开源数据集存在局限性。
  - Text2SQL智能体（DEA-SQL）：通过精简、策略、源数据质量优化、后验优化等手段提升模型鲁棒性。
- SQL能力矩阵：辅助用户高效写SQL。
OlaChat架构图：
- 统一体验：提供Copilot和Polit两个页面，支持应用层嵌入，保持统一交互体验。
- 快速接入：通过微前端方式快速接入应用系统，通过统一配置定制智能化能力。
- 提高复用：通过Agent智能体和公共服务提高代码复用。
- 持续优化：算法同学通过持续升级智能体效果提升应用准确率和覆盖率。