核心议题与背景
讨论围绕CPU观点、DeepSeek新模型的“hyper connection”技术、AI算力的算法与硬件瓶颈展开,重点分析了英伟达、亚马逊、谷歌在数据中心内部芯片连接方案上的最新变化与市场预期。
DeepSeek的“Hyper Connection”技术
DeepSeek的“hyper connection”技术是一种在AI模型推理过程中允许特征跨越多层进行连接的技术,通过添加约束条件和提前运算简化计算过程并提升性能。该技术被视为算法持续演进的一个例子,虽然直接的投资应用价值有限,但体现了AI底层优化的方向。
AI算力的根本瓶颈
从算法角度看,AI发展的核心瓶颈始终在于内存(存储)和通信带宽,这直接映射到硬件端,驱动着HBM、SRAM、缓存等存储层级以及各种高速互联技术的创新。
核心公司连接方案演进与分析
- 英伟达:采用“全互联”(All-to-All)架构,趋势是扩大“Scale Up”的规模(如从72卡到288卡集群),并将连接方式从铜缆转向正交背板。未来在更大规模集群中,第二层互联将引入光连接(光模块)。
- 亚马逊:从类似“3D Torus”的点对点互联架构向英伟达式的“全互联”架构靠拢,自研芯片集群开始引入Switch,提升底层互联效率和对高带宽的需求。
- 谷歌:方案呈现“双轨制”,对内(自用TPU)维持3D Torus架构和OCS,对外(售卖TPU)及未来产品将引入Switch,并在64卡集群之间的“Scale Out”连接中增加光模块的使用。
三大互联层级(Scale Up/Out/Cross)的预期与市场影响
- Scale Up(机柜内/集群内):连接载体将从PCB/铜缆向光演进,对PCB和光器件是增量。
- Scale Out(数据中心内集群间):随着AI算力集群规模指数级增长,网络带宽必须同步提升,将直接驱动光模块的速率(从800G向1.6T/3.2T升级)和用量提升。
- Scale Cross(数据中心间):新增量市场,专门用于连接地理上临近的多个数据中心建筑,以构建超大规模AI集群,需求与芯片速率直接相关,是纯粹的增量空间。
关于CPO(共封装光学)与光模块的辩证关系
CPO的核心是解决高速电信号传输距离问题,而非替代光模块。在英伟达的备选方案中,CPO、可插拔CPO、NQ、传统光模块并存,光互连市场的整体增长是确定的,CPO的发展与光模块市场的扩张并非对立,而是共同受益于带宽需求的爆发。
市场预期与结论
- 需求量:市场对亚马逊、谷歌等公司的自研芯片出货量存在分歧和预期差,但基于台积电CoWoS产能扩张等迹象,整体需求量大概率会上修。
- 技术趋势:行业连接架构正从各种专用互联向全互联(All-to-All)统一,持续推高对互联带宽和规模的要求。
- 投资方向:光模块和PCB是明确受益于上述趋势的核心硬件赛道,其空间和增量已被验证。存储是另一大瓶颈和需求方向。后续需关注如英伟达GDC大会等关键催化节点。
- 总体结论:AI算力基础设施在通信(Scale Up/Out/Cross)和存储两大方向的需求是全面且长期的,市场认知的预期差将带来投资机会。
关键数据与研究结论
- DeepSeek Hyper Connection:简化计算过程,提升性能,但直接投资应用价值有限。
- 英伟达:未来集群规模将扩大,连接方式转向光,预计GDC大会将有重要更新。
- 亚马逊:从3D Torus向全互联转变,自研芯片出货量预期上修。
- 谷歌:对内维持3D Torus架构,对外及未来产品将引入Switch,Scale Out连接中增加光模块使用。
- 光模块市场:Scale Out和Scale Cross将带来千亿级市场和显著增量,CPO与光模块市场共同受益于带宽需求爆发。
- 存储需求:HBM、SRAM、缓存等存储层级需求将持续提升,与通信需求同等重要。
- 投资建议:光模块和PCB是核心硬件赛道,存储需求巨大,需关注关键催化节点如英伟达GDC大会。