这份研报主要分析了国联民生电子与Google合作推动的TPUv9互连升级技术,重点关注了从TPUv7的3D拓扑结构到TPUv9的6D拓扑结构的升级过程。其中详细解释了TPUv7的立方体网络连接方式,每个芯片与6个芯片直接互联;以及TPUv9通过机架内部和机架间的3D拓扑和光互连形成的更大3D网格,每个芯片与12条ICI链条互联。报告还探讨了升级目标为6DTorus结构的实现方案,并指出该结构能显著提升大规模芯片间通信效率,减少通信跳数,从而提升OCS核心组件的性能。
当前TPU互联技术正朝着更高维度的拓扑结构发展。从TPUv7的3D立方体网络,到TPUv9引入的6D拓扑结构,互联方式从芯片级扩展到机架级,通过光互连实现更大规模的芯片通信。这种升级趋势旨在解决大规模并行计算中日益增长的通信需求,通过减少通信跳数和提升网络带宽来提高整体计算效率。未来,随着AI算力需求的持续增长,更高维度的互联技术将成为TPU发展的重要方向,推动相关产业链如光模块、高速互联芯片等迎来新的发展机遇。
研报重点分析了TPU互联结构的两次关键升级:首先是TPUv7到TPUv9的拓扑结构升级,从3D立方体网络扩展到6D网格结构,通过引入机架间光互连显著增加互联链条数。其次是具体升级方案的探讨,目标形成6DTorus结构,实现3维芯片级和3维机架级的协同通信。报告详细对比了3DTorus(16×16×16)和6DTorus(4×4)两种结构的通信跳数差异,指出6DTorus结构能大幅减少最远芯片间的通信距离,提升通信效率。这些技术升级方向对于提升大规模并行计算的通信性能具有重要意义。
目前TPU互联市场正处于技术快速迭代和产业升级的关键阶段。随着AI算力需求的爆发式增长,对高性能计算互联的需求日益迫切,推动TPU从早期的3D立方体网络向更高维度的6D拓扑结构演进。市场上,光互连技术作为解决高带宽、低延迟通信的关键方案,正逐步成为主流选择。同时,TPU互联芯片和光模块等相关产业链企业也在积极布局,通过技术创新满足不断升级的互联需求。这一阶段的市场特点是以技术驱动为主,产业链各环节协同发展,为相关企业带来广阔的市场空间。
研报在分析TPUv9互连升级技术的同时,也提示了相关潜在风险。首先,6D拓扑结构的实现复杂度较高,对芯片设计、光互连技术以及系统集成能力都提出了更高要求,技术路线的成熟度存在不确定性。其次,光互连方案虽然性能优越,但目前成本相对较高,大规模商业化应用可能面临成本压力。此外,TPU互联技术的快速迭代可能导致现有设备或方案面临淘汰风险,需要产业链企业持续投入研发以保持技术领先。最后,市场竞争加剧也可能影响相关企业的盈利能力,需要关注市场格局的变化。