2025年DeepSeek模型优势：算力、成本角度解读报告

DeepSeek模型优势：算力、成本角度解读

算力基本概念与发展

• 算力定义：对信息数据进行计算，实现目标结果的能力，包括信息计算力、数据存储力和网络运载力。
• 算力发展历程：从大脑、草绳算盘到计算机，再到大型机、PC、云计算和人工智能时代，算力需求逐步提升，人工智能时代面临算力不足挑战。

人工智能大模型算力估计

• 数据量与模型参数关系：数据量（D）需大于15倍模型参数量（N），万亿级模型需1.5×10^32数据量。
• 计算次数估计：万亿级模型计算次数约为1.5×10^25次。
• 成本估计：单张H800 GPU需174000天，1000张H800 GPU需174天。

大模型指导法则

• Scaling Law：算力、数据集、模型参数越大，模型效果越好（Test Loss小）。
• 商业模式：OpenAI通过华尔街融资、购买GPU、训练大模型、提供模型服务实现循环发展。

国内人工智能发展模式

• 可行性分析：国内融资、GPU购买、AI人才、工业化低成本优势明显，但GPU出口受限。
• 策略：以DeepSeek为代表的国内大模型采取“战术穿插”策略，通过技术创新降低成本。

美国限制中国AI发展策略

• 禁令：禁止出口高端AI芯片（A100、H800等）、限制AI加速器互联带宽、禁止7nm工艺代工、限制光刻机出口。
• 后果：国内AI算力与国际差距扩大。

DeepSeek模型发展历程与优势

• DeepSeek V1-V3：模型规模从7B到671B，采用MoE模型和MLA技术，降低计算量和存储需求。
• DeepSeek V3成本：单次预训练成本为5.676万美元，远低于Llama 3.1。
• 核心技术：
  • MoE：1共享专家+256路由专家，每个Token激活37B参数，降低计算量。
  • MLA：低秩压缩KV，降低KV Cache存储需求，提升推理性能和成本效益。
  • 自研轻量级框架：FP8训练、DualPipe计算通信重叠，提升算力密度。

DeepSeek与CUDA的关系

• PTX技术：DeepSeek采用类似汇编的PTX指令，但未完全绕开CUDA，对国产硬件设计有作用。

DeepSeekV3未来展望

• 模型性能：咬住国外最先进大模型，成本优势明显。
• 算力挑战：算力受限下更难追赶，需突破工艺卡脖子。
• 预测：中国AI竞赛结果将取决于工业化水平，实现“战术穿插”和“火力覆盖”。