豆包最新日均Tokens使用量6万亿推理约需百万张H20算力重申推理算力需求

正式发布豆包大模型1.5Pro，全面提升多模态与推理能力

• 豆包1.5Pro在知识、代码、推理、中文等多项公开测评基准上全球领先，综合得分优于GPT-4o、Claude 3.5 Sonnet等业界一流模型。
• 多模态能力提升：视觉推理、文字文档识别、语音表现力（采用Speech2Speech框架）全面增强。
• 技术优势：高效模型结构（小激活参数预训练+大规模稀疏MoE架构），训练成本低，性能超业内MoE架构约3倍效率。
• 真实数据：未使用其他模型生成数据，灰度上线于豆包APP。

日均Tokens使用量激增，推理算力需求超预期

• 截至1月20日，豆包最新日均Token使用量约6万亿，月增速50%。
• 推理算力需求测算：# 推理所需算力达144.83 Eflops，# 转化为H20约需97.86万张。
• 用户增长：12月APP+WEB月活达1.03亿，月增速26.43%。

研究结论与建议

• 2025年豆包等大模型应用将进一步推动推理算力需求增长。
• 建议关注：
  • AI芯片四小龙：寒武纪、海光信息、神州数码、景嘉微
  • AI Agent：汉得信息、海天瑞声、中科创达、亚信安全、新致软件、神州数码
  • 端侧：兆易创新、瑞芯微、乐鑫科技、恒玄科技、中科蓝汛、炬芯科技等。