您的浏览器禁用了JavaScript(一种计算机语言,用以实现您与网页的交互),请解除该禁用,或者联系我们。[财通证券]:AI行业跟踪报告(一):光铜共进,通讯带宽是AI重要迭代方向 - 发现报告
当前位置:首页/行业研究/报告详情/

AI行业跟踪报告(一):光铜共进,通讯带宽是AI重要迭代方向

电子设备2024-04-08张益敏财通证券L***
AI行业跟踪报告(一):光铜共进,通讯带宽是AI重要迭代方向

AI大模型对带宽提出更高要求。算术强度(Arithemtic Intensity)代表模型计算过程中,从内存中读取的每个字节进行浮点计算的次数。以Transformer Decoder为基础的模型如GPT,其算术强度显著低于CNN模型和以Transformer Encoder架构为基础的模型(如BERT),对访存带宽提出了更高要求。 英伟达新架构通讯带宽再上台阶。英伟达最新数据中心GPU架构Blackwell,相比上一代的Hopper架构,带宽在多个维度显著提升:1)HBM迭代至HBM3e(带宽8TB/s),相比H100的HBM3(带宽3TB/s)实现翻倍以上提升;2)NVLink带宽提升至1.8TB/s,相比Hopper架构翻倍;3)支持PCIe 6.0,带宽提升至256GB/s,相比Hopper(PCIe5.0128GB/s)翻倍。 AI拉动光模块需求,重视技术迭代增量。数据中心GPU放量拉动光模块需求,LPO、CPO、硅光等是数据中心光模块技术重要迭代方向,包括:1)LPO/CPO不采用DSP芯片,降低系统损耗(LPO相比可插拔光模块功耗下降约50%)和成本(800G LPO总成本下降约8%);2)CPO缩短光引擎和芯片之间距离,减小尺寸、降低功耗、提高效率;3)硅光结合CMOS工艺超大规模、超高精度和光子技术超高速率、超低功耗(CPO/LPO架构下)的优势等。 GB200拓展Scale up边界,降低客户TCO水平,拉动铜连接需求。英伟达最新机架解决方案GB200性能大幅提升,相同GPU数量下,训练速度可达H100的4倍;GB200 NVL36可实现万亿大模型推理,吞吐量达H100集群的30倍以上。相比GH200,GB200的CPU:GPU配比由1:1降低至1:2,客户TCO(Total Costof Ownership,总拥有成本)得以进一步降低。随着GB200在下游放量,背板连接器、铜缆等核心零部件有望受益增长。 建议关注:参考正文。 风险提示:AI需求不及预期、新技术迭代不及预期、份额不及预期等。 图1.BERT模型和GPT模型运算次数对比 图2.BERT模型和GPT模型访存次数对比 图3.算术强度计算公式 图4.Transformer模型的算术强度对比 图5.BERT模型和ResNet50模型的对比 图6.英伟达产品路线图 图7.LPO光模块示意图 图8.CPO技术路线 图9.全球主流企业CPO技术研究进展 图10.主流公司布局硅光技术对比 1建议关注 立讯精密、天孚通信、中际旭创、新易盛、光迅科技、华工科技(机械组覆盖)、光库科技、源杰科技、博创科技、太辰光等。 2风险提示 AI需求不及预期:若AI下游应用需求未能顺利展开,上游产业链需求可能受到压缩,影响相关产业链公司业绩增长预期。 新技术迭代不及预期:若光模块新技术迭代不及预期,相关企业可能无法如期兑现技术迭代带来的价值增量,影响业绩增长。 份额不及预期:若因技术迭代落后、行业竞争等因素,导致相关公司份额不及预期,也可能对企业业绩造成影响。