DeepSeek-R1模型发布及核心特点
DeepSeek于1月20日发布DeepSeek-R1系列模型,包括DeepSeek-R1-Zero、DeepSeek-R1和DeepSeek-R1-Distill系列,旨在对标OpenAI o1正式版,并在推理能力上实现突破。
1. 大规模强化学习技术
- DeepSeek-R1-Zero:首次完全摒弃监督微调(SFT),仅通过强化学习(RL)训练,在AIME 2024上取得71.0%的pass@1得分,与OpenAI o1-0912相当,展现纯RL训练的潜力,但存在可读性差和语言混用问题。
- DeepSeek-R1:在R1-Zero基础上引入冷启动数据和多阶段训练(推理导向RL、拒绝采样、SFT、全场景RL),提升应用能力,但在非中英语言处理和软件工程任务上仍有不足。
2. 知识蒸馏技术
- DeepSeek-R1-Distill系列:将R1的推理能力蒸馏至小模型(1.5B-70B参数),结果显示蒸馏效果显著优于直接RL训练,例如R1-Distill-Qwen-32B在AIME 2024上取得72.6%的pass@1得分,远超直接RL训练的模型。
- 结论:蒸馏技术能有效传递大模型的推理能力,为小模型发展提供新方向。
3. API定价及商业化潜力
- DeepSeek-R1 API定价远低于OpenAI同类产品(输入tokens 1元/4元,输出tokens 16元),有助于开发者加速功能迭代,但存在语言混合、提示敏感等问题,需进一步优化。
4. 投资建议
- 重点关注基础设施领域公司(如英伟达、海光信息等),同时关注全球模型厂商和学界进展。
5. 风险提示
核心结论
- 强化学习可激发大模型推理潜能,减少对标注数据的依赖。
- 知识蒸馏技术能有效提升小模型的推理能力,推动小模型发展。
- DeepSeek-R1的高性价比API定价具有商业化潜力,但需解决语言混合和提示敏感等问题。