长江计算机AI沉思录二：Token工厂从堆资源到榨资源的产业趋势

该报告核心探讨Token工厂的概念，提出Token工厂是以高效生产Token为核心产出指标的新一代AI基础设施。报告指出，Token工厂的收入取决于Token吞吐量与平均定价，核心竞争已从硬件堆砌转向资源利用效率提升。此外，报告还分析了Token吞吐量的影响因素，强调AI系统软件站（调度平台、心模协同）的重要性，而非单纯硬件数量。

AI行业正从2022-2023年的硬件资源竞争阶段，升级为当前的效率竞争阶段。行业北极星指标已从GPU保有量转向Token吞吐量。这一转变意味着，AI产业的竞争重点已从单纯追求硬件规模，转向提升资源利用效率。报告指出，调度平台和心模协同技术对Token效率提升至关重要，例如阿里云按Token级调度可显著提升吞吐量。

报告重点分析了国内Token工厂的三种商业模式：类聚合平台模式、垂类行业Token模式和透明分成模式。类聚合平台模式类似OpenAI，提供全场景Token服务，主要参与者为AIDC和云计算厂商，竞争关键在于调度能力和规模效应。垂类行业Token模式依托行业Know-How打造专属模型，推理毛利可达45%以上，主要服务企业级需求。透明分成模式则是算力租赁公司与大模型公司合作，共享前沿级Token收入，绑定高利润的顶尖需求。

当前Token市场已形成分层结构，Token分为基础设施、专家级和前沿级三层，定价逻辑各不相同。基础设施Token存在通缩趋势，而优质模型Token溢价明显。报告指出，行业已形成分层市场，不同层级的Token定价受推理成本、能力溢价和竞争策略影响。此外，报告还提到，调度平台和心模协同技术对Token效率提升至关重要，行业普遍存在MFU（模型利用率）低的问题，如科威尔MFU约50%（行业平均约40%）。

报告提示了三个主要风险：一是AI系统软件站的研发进度可能影响Token效率提升幅度，调度与心模协同技术存在迭代不确定性；二是Token分层市场的竞争可能加剧，不同层级玩家的定价策略或影响行业利润水平；三是算力资源获取成本的变化可能影响各类商业模式的盈利空间。这些风险提示强调了AI产业在向效率竞争转型过程中，仍需关注技术迭代、市场竞争和成本波动等因素。