AI系列之CPU：推理时代迎价值重估

核心观点

• 推理是未来AI算力的核心，算力结构正从以训练为主转向以推理为核心，推理需求规模有望达到训练阶段的5-10倍。
• CPU在训练场景是“辅助”，在推理场景可以成为"主力"，因为训练以大规模稠密矩阵运算为主，而推理具有碎片化、长尾化、延迟敏感特点，CPU在Decode、稀疏计算、长上下文管理、Embedding等多个任务中更具竞争力。
• 服务器CPU在指令集、核心数、内存子系统三个维度发生根本性进化以适应AI需求，未来将继续演进。
• 指令集从“通用向量”向“专用矩阵”演进，引入AMX（tile计算）单核AI算力较前代提升24x。
• 核心数由28/32提升至192/288，密度实现6-10倍提升，内存子系统容量和带宽也实现2.25倍增长。
• AI Agent是CPU爆发的核心驱动，高频小请求vs大Batch吞吐、工具调用密集、长上下文管理、沙箱执行、Multi-Agent编排、RAG与向量检索等机制天然依赖CPU。
• CPU与GPU硬件结构配比发生重大转变，在AI数据中心的部署比例，CPU:GPU已从过去的1:8收紧至当前的1:4，并可能在Agent时代进一步收敛至1:1甚至更低。
• x86和ARM占据市场主要份额，其中x86占比90%、ARM占比10%。长期看，受益于推理+Agent，CPU TAM结构性重估，ASP预计由900多美元提升至1317美元。
• x86将凭生态优势在云上仍占主要地位，ARM则凭能效、AI协同等优势在Agent、端侧场景发力，叠加Hyperscaler自研数据中心ARM CPU放量，其渗透率将不断提升——至30年提升到44%。

关键数据

• 2024年全球AI推理服务器市场规模约139.6亿美元，至2030年市场规模将达393.6亿美元，期间年复合增长率CAGR为18.9%。
• 25-30年服务器CPU规模预计将由266亿美元增长至1252亿美元，CAGR约36%，出货量预计由2920万颗增长至9500万颗，单颗价值量也将明显提升。

研究结论

• 推理底层驱动CPU硬件配比提升，Agent大趋势推动CPU核心数及总量需求增长，打开远期成长空间。
• 建议关注芯片：海光信息、禾盛新材、龙芯中科等；供应链：广合科技、澜起科技、通富微电、聚辰股份等。