人工智能行业数据集构建及模型训练方法实践

行业大模型落地难点及解决方案

一、行业大模型落地难在哪里？

行业大模型落地主要面临三大挑战：

1. 专业需求与模型能力对齐难：行业模型需满足特定业务需求，但通用大模型难以直接对齐。
2. 行业数据构建难：高质量行业数据集的获取和构建成本高、难度大。
3. 集成与演进难：现有IT系统与行业模型的集成及持续演进技术要求高。

二、行业数据集的制作技术

1. 智源IndustryCorpus数据集：

   • 覆盖18个行业分类（二期扩展至30个），包含多语种数据，具有规模大、类型多、质量高、灵活度高等优势。
   • 构建流程包括：语种划分、行业分类、质量评估。
   • 行业分类采用文本分类模型（如bge-m3、qwen1.5等），结合LLM多轮生成和开源数据辅助。

2. 数据质量提升策略：

   • 采用Rule-based和Model-based双重过滤，构建数据质量漏斗。
   • 高质量数据能显著提升模型性能（14B高质量数据表现优于50B未筛选数据）。

三、行业模型训练新范式

1. 传统微调（SFT）的局限性：

   • 预训练与SFT数据分布差异导致模型收敛困难、过拟合、幻觉问题严重。

2. CSR三合一范式（CPT+SFT+RLHF）：

   • Base Model：通用基础知识和认知。
   • CPT（继续预训练）：注入领域知识，分两阶段进行（规则过滤+模型过滤）。
   • SFT（精调训练）：筛选高质量指令数据（如Deita模型评估复杂性/质量）。
   • RLHF（人类反馈强化学习）：引入负向样例，提升输出偏好对齐（DPO数据集构建）。
   • RAG：进一步缓解幻觉问题，支持新知识更新。

3. 医疗领域示范模型训练效果：

   • CPT阶段：两阶段训练使模型指标显著提升。
   • SFT阶段：高质量数据筛选（Deita模型）提升效果。
   • RLHF阶段：DPO数据集构建使模型输出更符合人类偏好。

四、NL2SQL助力大模型与传统IT系统集成

1. AquilaSQL：

   • LLM适配SQL生成任务，通过CPT+SFT两阶段训练实现SOTA表现。
   • 设计基于LLM的NL2SQL指标评估方案，计算SQL生成准确率。

2. AquilaSQL+RAG应用案例：

   • 支持复杂编号字段查询（如“海淀区综合能源消费增减”），通过RAG筛选相关Schema信息。
   • SQL整体正确率达97%，支持多轮问答，杜绝幻觉。

五、研究结论

1. 核心观点：

   • 模型能力依赖高质量数据，精心设计数据构造方案能有效提升性能。
   • CSR范式（CPT+SFT+RLHF）在行业数据中效果显著。
   • NL2SQL结合RAG可作为传统IT系统演进的重要手段。

2. 关键数据：

   • 高质量数据提升模型效率3倍（14B vs 50B）。
   • DPO数据集包含12,727个偏好对（9,019主观+3,708客观）。
   • AquilaSQL+RAG SQL正确率97%。

3. 技术报告：

   • 可参考Aquila-Med技术报告：https://arxiv.org/abs/2406.12182
   • 欢迎加入智源数据社区获取3.4T行业CPT数据集。