英伟达通过提升单卡带宽(NVLink 5.0达7200Gb/s)和扩大超节点规模(从H100NVL8到GH200、GB200)持续扩大Scale Up网络规模。Scale Up网络通过显存池化缓解“内存墙”问题,并满足AI计算范式演进(数据并行、流水线并行、张量并行、专家并行)对高通信频次和容量的需求。
随着单用户每秒消耗的Token数(TPS)提高,现有服务器单卡性能逐渐坍缩,更大规模的Scale Up网络可提高单卡有效性能并降低TCO。Scale Up规模与预期单用户TPS、单卡实际性能间存在Scaling Law,后者非线性增长。
组建更大Scale Up网络需在柜间搭建第二层Scale Up交换机,光与AEC将在第二层网络中并存。按最新NVLink与IB标准测算,1颗GPU需9个额外等效1.6T连接,每4颗GPU需额外1台NVLink 5.0交换机,相较Scale Out网络均倍增。
Scale Up需求有望持续拓展,带来倍增的网络连接需求,光连接、AEC、交换机等环节均有望深度受益。相关标的包括光互连(中际旭创、新易盛等)、铜互连(中际旭创、兆龙互连等)、交换机(锐捷网络、盛科通信等)。
风险提示:算力互连需求不及预期、客户处份额不及预期、产品研发落地不及预期、行业竞争加剧。