电子行业半月报:英伟达发布新一代H200GPU,算力需求刺激半导体行业回暖 电子 评级:看好 日期:2023.12.05 证券研究报告|行业周报 报告要点 11月下板块走势回顾:2023年11月下(11月16日-11月30日),大盘指数中,上证综指下跌1.40%,深证成指下跌3.48%,创业板指下跌4.60%, 沪深300下跌3.08%。截至2023年11月30日,申万电子指数为3785.94,较11月16日下跌3.48%,行业涨跌幅在所有一级行业中排序24/31。11月下,申万电子各子行业中,其他电子板块下跌1.01%,光学光电子板块下跌3.05%,元件板块下跌3.39%,半导体板块下跌3.43%,电子化学品板块下跌3.64%,消费电子板块下跌4.43%。申万电子行业106支个股上涨,凯华材料(456.91%)、威贸电子(116.32%)、协创数据(82.48%)涨幅居前;有356支个股下跌,利通电子(-21.82%)、富乐德(-18.21%)、源杰科技 (-15.47%)跌幅居前。电子行业上市公司中,传音控股、龙腾光电、环旭电子的机构持股比例居前,分别为91.60%、90.23%、84.09%。 英伟达发布新一代H200,搭载HBM3e。英伟达于当地时间11月13日上午 分析师王少南 登记编码:S0950521040001:0755-23375522 :wangshaonan@wkzq.com.cn 联系人金凯笛:021-61102509 :jinkaidi@wkzq.com.cn 行业表现2023/12/5 17% 10% 3% -3% -10% -17% 2022/122023/32023/62023/9 电子上证综指 深证成指沪深300 在“Supercomputing23”会议上正式发布了全新的H200GPU。NVIDIAHGX H200平台基于NVIDIAHopper™架构,搭载NVIDIAH200TensorCoreGPU和领先的显存配置,可处理生成式AI与高性能计算工作负载的海量数据。NVIDIAH200是首款采用HBM3e的GPU,具有能够提供传输速度达4.8TB/秒的141GB显存。英伟达表示,与H100相比,H200用于700亿参数的Llama2模型推理的速度是H100的1.9倍,能耗为H100的50%。根据公司官网,全球领先的服务器制造商和云服务提供商预计于2024年第二季度开始提供搭载H200的系统。 SK海力士规模领先,三大存储原厂竞逐HBM市场。HBM的高带宽可实现 GPU之间的快速数据传输,这对于有效处理大型数据集和有效执行复杂的人工智能算法至关重要。在HBM产品推进进程上,根据TrendForce调研,三星的HBM3(24GB)预计将于2023年12月完成英伟达的验证,其中,美光于2023年7月底向英伟达提供了8hi(24GB)样品,SK海力士于8月中旬向英伟达提供样品,三星于10月向英伟达提供样品。在市占率上,根据TrendForce统计,2022年,SK海力士在HBM领域处于领先地位,市占率约为50%;其次为三星,市占率约为40%;美光市占率约为10%。SK海力士目前在HBM3生产方面处于领先地位,是NVIDIA服务器GPU的主要供应商。 WSTS上修2024年全球半导体销售额。11月28日,WSTS将2024年全球半导体销售额由6月预测的5759.97亿美元上调至5883.64亿美元,较6月 份的数据上调2.15%。根据11月WSTS数据统计,2022年全球半导体销售额为5740.84亿美元,较2021同比增长3.27%。由于11月2023年全球第二季度和第三季度的全球半导体销售情况略好于春季预测,且部分终端市场有所改善,因此WSTS预测,2023全球半导体销售额为5201.26亿美元(6月预测销售额为5150.95亿美元),较2022年同比减少9.40%;2024年全球半导体销售额预计约为5883.64亿美元,同比增长13.12%。 资料来源:Wind,聚源相关研究 《电子行业周报:OpenAI举办首届开发者 大会,GPT-4Turbo与GPTStore等相继发布》(2023/11/14) 《电子行业点评:消费电子及半导体复苏迹 象显现,行业景气度有望回升》(2023/11/12) 《电子行业周报:苹果发布23FQ4财报,同比下滑趋势有所收窄》(2023/11/7) 《电子行业周报:高通骁龙8Gen3与小米 14齐发,全球智能手机出货量跌幅收窄》 (2023/10/30) 《电子行业周报:美国商务部扩大出口禁令, AI产业链国产替代势在必行》(2023/10/24) 《华为发布会点评:Mate60系列引领创新,全场景新品技术升级》(2023/9/28) 《苹果发布会点评:iPhone15系列创新不断, AppleWatch系列持续升级》(2023/9/13) 《元宇宙行业深度:元宇宙关键入口,VR/AR光学+显示方案带来新机遇》(2023/3/27) 《2023年电子行业投资策略:半导体国产替 代持续加速,汽车电子迎来新机遇》 (2023/1/6) 《半导体材料行业深度:晶圆厂迎扩产潮,大国利剑国产替代前景可期》(2022/9/9) 风险提示:1、宏观经济恢复不及预期,电子行业下游需求不及预期;2、贸易摩擦加剧,电子行业供应链进一步受限的风险;3、若电子行业技术研发和迭代、产品推进不及预期,存在国产替代不及预期的风险;4、电子行业竞争加剧,使得部分企业盈利能力下滑的风险。 内容目录 1、英伟达发布新一代H200GPU,算力需求刺激半导体行业回暖3 1.1英伟达新一代H200GPU搭载HBM3e,三大存储原厂竞逐HBM市场3 1.2WSTS上修2024年全球半导体销售额6 2、行业新闻7 3、公司动态10 4、市场动态14 5、风险提示17 图表目录 图表1:英伟达H200的大模型推理效率大幅提升3 图表2:英伟达H200能耗降低至H100的50%3 图表3:英伟达H200SXM与H100SXM对比3 图表4:英伟达搭载HBM的部分产品矩阵4 图表5:HBM结构示意图5 图表6:GDDR6与HBM2E对比5 图表7:HBM发展历程5 图表8:三星、SK海力士、美光在HBM领域的技术路线图6 图表9:1986-2024E全球半导体销售额(亿美元)6 图表10:2022-2024E全球半导体销售额预测值按地区/国家对比(亿美元)7 图表11:2022-2024E全球半导体销售额预测值按产品类型对比(亿美元)7 图表12:申万一级行业11月下涨跌幅(11月16日-11月30日)15 图表13:申万一级行业年初至今涨跌幅(截至11月30日)15 图表14:申万电子细分行业11月下涨跌幅(11月16日-11月30日)16 图表15:申万电子行业11月下股价涨跌幅前十标的(11月16日-11月30日)16 图表16:电子行业2023Q3机构持股比例前十标的(截至11月30日)16 1、英伟达发布新一代H200GPU,算力需求刺激半导体行业回暖 1.1英伟达新一代H200GPU搭载HBM3e,三大存储原厂竞逐HBM市场 英伟达于当地时间11月13日上午在“Supercomputing23”会议上正式发布了全新的H200GPU。NVIDIAHGXH200平台基于NVIDIAHopper™架构,搭载NVIDIAH200TensorCoreGPU和领先的显存配置,可处理生成式AI与高性能计算工作负载的海量数据。NVIDIAH200是首款采用HBM3e的GPU。NVIDIAH200具有能够提供传输速度达4.8TB/秒的141GB显存。英伟达表示,与H100相比,H200用于700亿参数的Llama2模型推理的速度是H100的1.9倍,能耗为H100的50%。根据公司官网,全球领先的服务器制造商和云服务提供商预计于2024年第二季度开始提供搭载H200的系统。 图表1:英伟达H200的大模型推理效率大幅提升图表2:英伟达H200能耗降低至H100的50% 资料来源:英伟达官网,五矿证券研究所资料来源:英伟达官网,五矿证券研究所 图表3:英伟达H200SXM与H100SXM对比 H200SXM H100SXM FP64 34TFLOPS FP64TensorCore 67TFLOPS FP32 67TFLOPS TF32TensorCore 989TFLOPS BFLOAT16TensorCore 1.979TFLOPS FP16TensorCore 1,979TFLOPS FP8TensorCore 3,958TFLOPS INT8TensorCore 3,958TFLOPS GPUMemory 141GB 80GB GPUMemoryBandwidth 4.8TB/s 3.35TB/S Decoderg 7NVDEC;7JPEG MaxThermalDesign Power(TDP) Upto700w(configurable) Multi-InstanceGPUsUpto7MIGs@16.5GBeachFormFactorSXM NVIDIANVLink:900GB/s Interconnect PCleGen5:128GB/s ServerOptions NVIDIAHGXH200partnerandNVIDIA-CertifiedSystems"with4or8GPUs NVIDIAHGX™H100partnerandNVIDIA-CertifiedSystems™with4or8GPUsNVIDIADGX™H100with8GPUs NVIDIAEnterpriseAdd-on 资料来源:英伟达官网,五矿证券研究所 英伟达自2017年起即开始搭载HBM存储芯片。2023年的高端AI系列,例如A100/A800和H100/H800等型号,都采用了HBM技术。在2024年,英伟达计划进一步完善其产品组合,新增加的产品包括使用6个HBM3e芯片的H200和使用8个HBM3e芯片的B100。此外,英伟达还计划推出GH200和GB200,这些产品将集成自主基于Arm的CPU和GPU,通过更专业、更强大的AI解决方案增强其配置产品。 图表4:英伟达搭载HBM的部分产品矩阵 资料来源:Yole,英伟达官网,SK海力士官网,五矿证券研究所 HBM(HighBandwidthMemory,高频宽存储器)技术通过先进封装工艺的方式提高存储芯片的带宽,它将多层DRAM芯片通过硅通孔(TSV)和微型凸点(Microbump)连接在一起,形成一个存储堆栈(stack),然后将多个堆栈与逻辑芯片(如GPU或CPU),通过硅中介层 (Interposer)封装在一起。AI领域,尤其是涉及深度学习的任务,需要快速的数据访问和处理。HBM的高带宽可实现GPU之间的快速数据传输,这对于有效处理大型数据集和有效执行复杂的人工智能算法至关重要。 GDDR(GraphicsDoubleDataRate)和HBM都可用于图形处理和高性能计算领域,GDDR作为传统的内存技术,提供了平衡的性能和成本,适用于广泛的图形应用,而HBM则更专注于提供高性能、高带宽以及更能效的解决方案,适用于对数据传输速度和能效要求更高的领域。在结构上,GDDR是一种传统的图形内存,通常以单个芯片的形式存在,它的设计比较扁平,内存芯片以并行方式连接到图形处理单元(GPU)。HBM采用了3D堆叠的设计,通过垂直堆叠多个内存层来实现高容量和高带宽。在性能上,HBM通常拥有比GDDR更高的带宽,能够提供更快的数据传输速度;且相比于传统的平面布局,HBM的堆叠设计减少了 信号传输的距离和损耗,从而降低了整体的功耗。但是,GDDR内存芯片间的并行连接方式相较于HBM的多层堆叠,结构更加简单、更灵活,也可以更好地管理信号的传输速度和干扰,有助于提高时钟速度。 图表5:HBM结构示意图