核心观点
- 私有化部署需求提升: DeepSeek技术创新降低大模型落地的模型和算力门槛,推动政企私有化部署需求提升。
- 私有化部署方案选型: 需考虑模型参数、运行参数、算力硬件(显存容量、AI算力大小、显存带宽、互联带宽)、配套生态及软件栈支持等因素。
- 大模型一体机契合政企需求: 大模型一体机解决私有化部署的复杂性和高门槛,契合政企需求,无需组建专业团队即可实现敏捷部署。
- 市场空间广阔: 现阶段央国企、政务机构、学校、医院私有化部署AI大模型所需的服务器(一体机)开支空间约在1000亿元左右,且随着AI应用场景拓宽,需求仍有较大提升空间。
关键数据
- DeepSeek模型性能: DeepSeek-R1在数学、代码、自然语言推理等任务上,性能比肩OpenAI o1正式版;32B和70B等中等规模蒸馏模型已可以出色地完成任务。
- 部署32B模型所需显存: FP8精度、序列长度为2048、批次大小为16的情况下,仅需一张NVIDIA A L40(48GB)或一张华为 Ascend 910B (64GB)。
- 部署70B模型所需显存: FP8精度、序列长度为2048、批次大小为16的情况下,仅需两张NVIDIA A L40(48GB)或两张华为 Ascend 910B (64GB)。
- 推荐配置: DeepSeek-70B模型推荐配置约等效为1台配有8张华为Ascend 910B (显存容量:64GB)的服务器(一体机),多用户并发数为64路左右,价格假设为140-180万元不等;DeepSeek-671B模型的推荐配置则为2-4台服务器(一体机)组成集群。
研究结论
- DeepSeek技术创新推动政企私有化部署需求提升,大模型一体机市场空间广阔。
- 紫光股份、浪潮信息、中科曙光、拓维信息等公司值得关注。
- 需关注宏观经济波动风险、AI技术发展不及预期、下游客户AI算力支出意愿不及预期风险、供应链风险、服务器(一体机)行业竞争加剧风险。