数据中心互联技术专题四：CSP云厂AI军备竞赛加速，智算中心架构快速发展

信息技术 2025-08-24 袁文翀国信证券 Lumière

大模型持续迭代，训练需求持续增长，ChatGPT3.5点燃“大模型革命”，ChatGPT4-o1模型能力进入60指数，中国DS异军突起，行业竞争白日化。
AI推理的token量出现爆发式增长，AI agent、多模态模型和AI的渗透和生态发展导致token消耗量激增。
CSP互联网云厂进入AI军备竞赛状态，持续加大投入建设智算中心，海外亚马逊、谷歌、微软、Meta四家厂商合计Capex增至3610亿美元，国内字节、腾讯、阿里Capex有望超过3600亿元。
CSP互联网云厂开启自研ASIC算力芯片之路，AWS、Google、Meta等均推出自研芯片，华为、AMD等陆续发布算力集群超节点项目。

英伟达AI芯片加速迭代，目前H200是主流产品，单个GH200集群（256张GPU互联）采用2层fat-tree网络，GPU:800G光模块=1:9。
展望B系列发展，GB200NVL72架构下，GPU:400GDAC=1:36，GB200集群(576GPU)：GPU:800G=1:1.5~2.5；GB300集群：GPU:1.6T=1:1.5~2.5；DGX-B300集群(4096GPU)：GPU:800G=1:4~4.5。
展望B系列发展，传输速率升级采用CPO交换机，GB300 NVL72架构下，GPU配备CX-8网卡（800Gb/s），散热设计全面升级，每个GPU单独配备冷板。
展望Rubin系列发展，正交背板成为未来互联核心技术，NVIDIA Rubin NVL576网络方案升级，Scale up采用正交背板方案，采用第六代|第七代NVLink技术（3600GBps）、CX9网卡（1.6Tbps）以及Spectrum6 CPO交换机（102T）。
AMD将于2026年提供“Helios”AI集群，MI系列芯片保持每年一次的迭代升级节奏，软件方面也在持续迭代，ROCm 7：支持CDNA4与MI350，预计2026年提供Helios AI集群方案。
华为CloudeMatrix384超节点已规模上线，UB平面构成超级节点内主要的超高带宽纵向扩展架构，RDMA平面支持跨CloudMatrix384个超级节点和外部RDMA兼容系统的横向扩展通信，VPC平面通过高速网卡（华为擎天卡）将CloudMatrix384超级节点连接到更广泛的数据中心网络。

Google一直引领自研ASIC芯片，TPU已经研发到第七代，TPUv4集群：每个托盘有4颗芯片，以4*400Gbps速率连接跨板的GPU，目前机柜内主要采用DAC进行机柜内连接，TPU: 400G DAC=1:4。
Google在机柜间使用全光OCS互联，TPUv4集群（超节点架构）:64个机架通过48个OCS交换机组成的4096芯片网络，每个444的机柜，需要连接6面16条/面=96条，总计需要6496=6144个光模块。
AWS在2024年底发布基于Trainium2的架构，AEC成为亮点，机柜内互联主要采用铜连接，Trainium2:400GAEC=1:1。
AWS有望在2026年发布基于trainium3的Teton架构，部署背板方案，Teton PDS中计算板和交换板通过NeuronLinkv3连接，采用背板实现。
META基于自研MITA-T芯片Minerva架构大幅拉动光模块需求，机柜内主要采用铜连接，MTIA:800GDAC=1:12。
META基于GB200和AMD芯片设计了Cataline项目和GrandTeton项目。
国内智算中心互联解决方案“层出不穷”，立讯等厂商积极参与互联方案设计。