您的浏览器禁用了JavaScript(一种计算机语言,用以实现您与网页的交互),请解除该禁用,或者联系我们。[上海证券]:通信事件点评:英伟达发布H200,面向生成式AI推理场景持续升级 - 发现报告
当前位置:首页/行业研究/报告详情/

通信事件点评:英伟达发布H200,面向生成式AI推理场景持续升级

信息技术2023-11-15刘京昭上海证券心***
AI智能总结
查看更多
通信事件点评:英伟达发布H200,面向生成式AI推理场景持续升级

证英伟达发布H200,面向生成式AI推理 研 券场景持续升级 报 究增持(维持)主要观点 告事件描述 行业:通信 近日,NVIDIA宣布推出NVIDIAHGXH200。NVIDIAHGXH200基于 日期: 2023年11月15日 NVIDIAHopper架构,配备NVIDIAH200TensorCoreGPU和HBM3e 显存,能够更好地支持处理生成式AI和高性能计算场景下的工作负 分析师:刘京昭 SAC编号:S0870523040005 最近一年行业指数与沪深300比较 38% 31% 25% 18% 11% 4% -2%08/22 -9% 10/22 01/2303/2306/2308/23 16% 通信沪深300 - 事 件 点相关报告: 评《三大运营商云业务稳中有进,新兴业务产品日臻完善》 ——2023年08月15日 《英伟达发布L40SGPU,中高速光模块或将受益》 ——2023年08月11日 《海外云厂商收支稳健,支持AI基础设施建设长期向好》 载。NVIDIAH200所配备的141GBHBM3e显存拥有4.8TB/s的带宽,与NVIDIAH100相比,显存增加76%,带宽增加43%。以Llama2-70B模型为例,NVIDIAH200的推理速度是NVIDIAH100的1.9倍,大幅提高了对生成式AI推理场景的支持能力。 分析和判断我们认为: (1)HVIDIAHGXH200的推出,从侧面印证了生成式AI推理场景对算力的巨大需求。 (2)H200在推理场景下性能的提升,有望降低下游科技企业在生成式AI应用落地时的算力使用成本,加速生成式AI应用的技术落地。 (3)在生成式AI研发中处于领先地位的科技企业,有望在产品落地后,更好地将技术转化壁垒和现金流,从而持续投入人工智能基础设施建设,有利于与这些科技企业存在较强上下游绑定关系的算力供应链企业实现持续增长。 投资建议 建议关注: 中际旭创:中高端数通市场龙头,2022年与II-VI并列光模块业务营收全球第一,公司800G光模块已在2023年上半年逐步起量。根据iFinD机构一致预期,截至2023年11月14日,公司2023/2024年的预测PE分别为45/23倍,位于近五年的67%分位。 ——2023年08月02日 天孚通信:光器件整体解决⽅案提供商。根据iFinD机构一致预期,截至2023年11月14日,公司2023/2024年的预测PE分别为54/35倍,位于近五年的85%分位。 风险提示 下游需求不及预期;人工智能技术落地和商业化不及预期;产业政策转变;宏观经济不及预期等。 目录 1英伟达推出H200,大幅提升生成式AI模型推理速度3 2风险提示5 图 图1:NVIDIAH200较H100推理能力更强4 图2:NVIDIAH200首次配备HBM3e4 图3:英伟达有望持续发布面向模型训练和推理的计算卡4 表 表1:H200SXM与H100SXM技术指标相仿3 表2:光通信领域公司对比(截至11月13日,单位:亿 元)5 1英伟达推出H200,大幅提升生成式AI模型推理速度 近日,NVIDIA宣布推出NVIDIAHGXH200。NVIDIAHGX H200基于NVIDIAHopper架构,配备NVIDIAH200TensorCoreGPU和HBM3e显存,能够更好地支持处理生成式AI和高性能计算场景下的工作负载。 表1:H200SXM与H100SXM技术指标相仿 技术指标 NVIDIAH200SXM NVIDIAH100SXM GPU架构 NVIDIAHopper NVIDIAHopper FP64 34TFLOPS 34TFLOPS FP32 67TFLOPS 67TFLOPS FP64TensorCore 67TFLOPS 67TFLOPS TF32TensorCore* 989TFLOPS 989TFLOPS FP16/BF16TensorCore* 1979TFLOPS 1979TFLOPS FP8TensorCore* 3958TFLOPS 3958TFLOPS INT8TensorCore* 3958TFLOPS 3958TFLOPS GPU显存 141GBHBM3e 80GBHBM3 GPU显存带宽 4.8TB/s 3.35TB/s Interconnect NVLINK、PCIeGen5 NVLINK、PCIeGen5 功率 Upto700W Upto700W 资料来源:NVIDIA,上海证券研究所 *面向稀疏矩阵场景 从整体上看,NVIDIAH200SXM与NVIDIAH100SXM的技 术指标相仿,主要的区别在于NVIDIAH200SXM的HBM3e显存大小明显增加、带宽明显增大:NVIDIAH200所配备的141GBHBM3e显存拥有4.8TB/s的带宽,与NVIDIAH100相比,显存增加76%,带宽增加43%。以Llama2-70B模型为例,NVIDIAH200的推理速度是NVIDIAH100的1.9倍,大幅提高了对生成式AI推理场景的支持能力。 NVIDIAA100/A800、AMDMI200以及多数CSPs自研的加速芯片主要基于HBM2e设计。随着生成式AI的需求持续上升,新一代HBM的开发和技术落地逐渐加速。NVIDIAH100/H800以及AMDMI300系列开始配备SK海力士、三星开发的HBM3。美光则跳过HBM3,直接开发HBM3e。单颗HBM3e容量将提升至24GB,传输速率也将由HBM3的5.6~6.4Gbps提升至8Gbps。我们认为:HBM3e拥有更大的容量、更高的传输速率,因此也更适 合生成式AI的应用场景。 图1:NVIDIAH200较H100推理能力更强图2:NVIDIAH200首次配备HBM3e 资料来源:NVIDIA,上海证券研究所资料来源:NextPlatform,上海证券研究所 根据英伟达公布的文件,未来有望继续基于x86架构推出面向人工智能模型推理场景的计算卡B100。同时,英伟达也将继续开发基于800G、1.6T光模块的新一代InfiniBand和以太网交换机,在人工智能基础设施领域持续发力。 图3:英伟达有望持续发布面向模型训练和推理的计算卡 资料来源:ServeTheHome,上海证券研究所 我们认为:(1)HVIDIAHGXH200的推出,从侧面印证了生成式AI推理场景对算力的巨大需求。(2)H200在推理场景下性能的提升,有望降低下游科技企业在生成式AI应用落地时的算力使用成本,加速生成式AI应用的技术落地。(3)在生成式AI研发中处于领先地位的科技企业,有望在产品落地后,更好地将技术转化壁垒和现金流,从而持续投入人工智能基础设施建设,有利于与这些科技企业存在较强上下游绑定关系的算力供应链企业实现持续增长。 细分板块股票简称22营业收入 22归母 净利润 23E营业收入 23E归母 净利润 PE 23E 24E营业 收入 24E归母 净利润 PE 24E 近五年PE分 位数(%) 源杰科技2.83 1.00 2.63 0.73 191 3.86 1.24 119 95 仕佳光子9.03 0.64 9.33 0.66 128 11.12 0.99 66 -- 表2:光通信领域公司对比(截至11月13日,单位:亿元) 长光华芯腾景科技 3.863.44 1.190.58 4.333.87 0.930.61 11874 6.105.33 1.440.89 6249 9997 中际旭创 96.42 12.24 116.31 18.76 45 209.82 36.59 23 67 新易盛 33.11 9.04 31.54 6.94 39 53.35 12.73 24 64 天孚通信 11.96 4.03 17.55 5.87 54 26.59 8.79 35 85 光模块/光引擎 博创科技华工科技 14.67 120.11 1.949.06 16.52 128.85 2.37 10.97 3528 19.67 157.19 2.91 14.11 2922 4627 光迅科技 69.12 6.08 70.16 6.28 38 82.03 7.83 29 54 剑桥科技 37.86 1.71 -- -- -- -- -- -- 54 太辰光 9.34 1.80 10.10 1.78 48 14.69 2.71 31 97 光芯片/光器件 资料来源:iFinD,上海证券研究所 *盈利预测来自iFinD机构一致预期;仅列举各板块部分标的。 2风险提示 下游需求不及预期:下游客户分布在多个行业,需求的影响因素多。若下游客户的需求量不及预期,将影响行业的收入和利润。 人工智能技术落地和商业化不及预期:从长期看,以人工智能技术为支撑的公司需要以事实证明其现阶段的成长潜力,若不能及时将技术转化为长期壁垒和现金流回报,可能影响后续市场对人工智能主题的关注和信心。 产业政策转变:生成式人工智能模型的训练需要算力、通信和数据支持,前期投入巨大,需要相关产业政策予以倾斜,若产业政策方向发生转变,可能影响关键领域的技术突破。 宏观经济不及预期:宏观经济影响居民消费,若经济增速放缓,可能导致居民消费信心下降,消费需求受到抑制,消费端相关业务承压。 分析师声明 作者具有中国证券业协会授予的证券投资咨询资格或相当的专业胜任能力,以勤勉尽责的职业态度,独立、客观地出具本报告,并保证报告采用的信息均来自合规渠道,力求清晰、准确地反映作者的研究观点,结论不受任何第三方的授意或影响。此外,作者薪酬的任何部分不与本报告中的具体推荐意见或观点直接或间接相关。 公司业务资格说明 本公司具备证券投资咨询业务资格。 投资评级体系与评级定义 股票投资评级:分析师给出下列评级中的其中一项代表其根据公司基本面及(或)估值预期以报告日起6个月内公司股价相对于同期市场基准指数表现的看法。 买入股价表现将强于基准指数20%以上增持股价表现将强于基准指数5-20%中性股价表现将介于基准指数±5%之间减持股价表现将弱于基准指数5%以上 无评级由于我们无法获取必要的资料,或者公司面临无法预见结果的重大不确定性事 件,或者其他原因,致使我们无法给出明确的投资评级 行业投资评级:分析师给出下列评级中的其中一项代表其根据行业历史基本面及(或)估值对所研究行业以报告日起12个月内的基本面和行业指数相对于同期市场基准指数表现的看法。 增持行业基本面看好,相对表现优于同期基准指数中性行业基本面稳定,相对表现与同期基准指数持平减持行业基本面看淡,相对表现弱于同期基准指数 相关证券市场基准指数说明:A股市场以沪深300指数为基准;港股市场以恒生指数为基准;美股市场以标普500 或纳斯达克综合指数为基准。投资评级说明: 不同证券研究机构采用不同的评级术语及评级标准,投资者应区分不同机构在相同评级名称下的定义差异。本评级体系采用的是相对评级体系。投资者买卖证券的决定取决于个人的实际情况。投资者应阅读整篇报告,以获取比较完整的观点与信息,投资者不应以分析师的投资评级取代个人的分析与判断。 免责声明 本报告仅供上海证券有限责任公司(以下简称“本公司”)的客户使用。本公司不会因接收人收到本报告而视其为客户。 本报告版权归本公司所有,本公司对本报告保留一切权利。未经书面授权,任何机构和个人均不得对本报告进行任何形式的发布、复制、引用或转载。如经过本公司同意引用、刊发的,须注明出处为上海证券有限责任公司研究所,且不得对本报告进行有悖原意的引用、删节和修改。 在法律许可的情况下,本公司或其关联机构可能会持有报告中涉及的公司所发行的证券或期权并进行交易,也可能为这些公司提供或争取提供多种金融服务。 本报告的信息来源于已公开的资料,本公司对该等信息的准确性、完整性或可靠性不作任何保证。本报告所载的资料、意见和推测仅反映本公司于发布