内存行业：开源模式如何扩大总可寻址市场空间

核心观点

• 开源模型对内存需求的影响： 尽管中国开源大型语言模型（LLM）的API价格较低，但这并不一定意味着其硬件成本较低。这些模型采用了各种效率技术来降低计算/GPU强度，但仍然需要相同或更多的内存来存储模型权重和活动参数。此外，每个开源权重下载都会在客户端创建一个新的内存插座，这会进一步增加内存需求。
• 成本优势的来源： 中国LLM的成本优势主要来自非硬件效率，例如架构效率（MoE稀疏性、MLA/混合注意力、原生低比特量化）以及物理基础设施效率（更低的电费、人工成本和土地成本）。此外，国家相关的资本补贴和云服务提供商（CSP）的云收入/自由现金流也可能对价格产生影响。
• 市场规模扩大： 开源模型通过其独立的内存端点来扩展内存需求。由于中国LLM实验室的API价格较低，这会推动整体需求上升，从而为半导体行业带来好处。
• 中国模型的崛起： 中国模型在AI排名中占据重要地位，表明中国LLM的发展速度很快，并且可能对西方模型构成竞争。
• 对美光科技（MU）的看法： 美光科技在AI内存领域具有竞争优势，并且随着其CHIPS法案回购限制的到期，可能会进行大规模回购，这将为公司带来增长动力。

关键数据

• API价格： 腾讯混元API价格为0.06美元/百万个token，而Claude Opus 4.8的价格为15美元/百万个token。
• 内存需求： Kimi K3每个服务实例需要约1.4 TB的HBM，而OpenAI的类似开源模型oss-120b需要约63 GB的权重内存。
• 模型规模： Kimi K3的参数为2.8T，是DeepSeek-V3（671B）的4倍多。
• 市场份额： 中国模型占据了全球LLM市场份额的相当大的比例。

研究结论

• 开源模型的出现扩大了内存需求，并为半导体行业带来了增长机会。
• 中国LLM的发展对西方模型构成了竞争，但同时也推动了市场规模的扩大。
• 美光科技在AI内存领域具有竞争优势，并且可能会从其CHIPS法案回购中受益。