微信接入 DeepSeek 模型后的算力需求与优化策略
- 灰度测试阶段已观察到推理算力需求显著增长,预计下半年全量开放后日均请求量达 10 亿次,并发峰值百万级别,需数千张 GPU 卡(H20 和 H100 混搭)。
- 通过混元基础推理等策略优化资源利用率,根据查询类型动态分配推理路径:简单查询采用混元基础推理(节省 30% 算力),复杂查询使用 DeepSeek 满血版,以平衡性能与成本。
- 元宝接入满血版 DeepSeek 后,DAU 维持百万级别但业务增量不显著,品牌热度提升未能转化为大规模用户增长。