HBM3E量产在即,关注国产HBM突破和产业链受益 2024年03月10日 证券研究报告 行业研究 行业专题研究(普通) HBM3E量产在即,关注国产HBM突破和产业链受益 2024年03月10日 本期内容提要: 半导体 投资评级上次评级 海外大厂HBM3E量产在即。(1)近日,美光宣布已开始量产其HBM3E高带宽内存解决方案。英伟达H200TensorCoreGPU将采用美光8层堆叠的24GB容量HBM3E内存,并于2024年第二季度 莫文宇电子行业首席分析师 执业编号:S1500522090001 邮箱:mowenyu@cindasc.com 看好 看好 开始出货。美光HBM3E引脚速率超过9.2Gb/s,提供超过1.2TB/s的内存带宽。与HBM3相比,HBM3E将数据传输速率和峰值内存带宽提高了44%。(2)三星发布首款36GBHBM3E12HDRAM,目前为三星容量最大的HBM。三星HBM3E12H支持全天候最高带宽达1280GB/s,产品容量也达到了36GB。相比三星8层堆叠的HBM3 8H,HBM3E12H在带宽和容量上大幅提升超过50%。相比HBM3 8H,HBM3E12H搭载于人工智能应用后,公司预计人工智能训练平均速度可提升34%,同时推理服务用户数量也可增加超过11.5倍。 信达证券股份有限公司 CINDASECURITIESCO.,LTD 北京市西城区闹市口大街9号院1号楼邮编:100031 (3)SK海力士于1月中旬正式结束了HBM3E的开发工作,并顺利完成英伟达历时半年的性能评估,计划于3月开始大规模生产HBM3E产品,这批HBM3E将用于英伟达下一代Blackwell系列的AI芯片旗舰产品B100上,而英伟达则计划于2024年第二季度末或第三季度初推出该系列产品。 国内存储厂商入局HBM市场。根据采招网,近日,武汉新芯发布 《高带宽存储芯粒先进封装技术研发和产线建设》招标项目,利用三 维集成多晶圆堆叠技术,打造更高容量、更大带宽、更小功耗和更高生产效率的国产高带宽存储器(HBM)产品,推进多晶圆堆叠工艺产业化,新增生产设备约17台/套,拟实现月产出能力≥3000片(12英寸)。我们认为,国内存储厂商在HBM技术上的加速突破,有望在AI大浪潮的需求下提升竞争实力,相关产业链也或将受益。 AI浪潮驱动,HBM先进封装、设备材料产业链环节持续受益。HBM制造工艺包括TSV、Bumping和堆叠等工艺环节。HBM是由多个DRAMdie堆叠而成,利用硅通孔(TSV)和微凸块(Microbump)将die之间相连接,多层DRAMdie再与最下层的Basedie连接,然 后通过凸块(Bump)与硅中阶层(interposer)互联。HBM与GPU、CPU或ASIC共同铺设在硅中阶层上,通过CoWoS等2.5D封装工艺相互连接,硅中介层通过CuBump连接至封装基板 (PackageSubstrate)上,最后封装基板再通过锡球与下方的PCB基板相连。根据全球半导体观察,目前HBM存储芯片的整体良率在65%左右,HBM良率的高低主要受到其堆叠架构复杂性的影响,这涉及到多层次的内存结构和作为各层连接之用的直通TSV技术。这些复杂技术增加了制程缺陷的风险,可能导致良率低于设计较简单的内存产品。因此存储大厂纷纷加码HBM先进封装,提升HBM良率并降低功耗。此外,根据CFM,SK海力士拟将新一代HBM4堆栈直接放置在处理器上,通过3D堆叠的形式进一步提高I/O数量。 投资建议:受益于AI算力需求的强劲推动,HBM或将成为存储芯片市场复苏的主要驱动力,同时国内存储厂商也加速产品布局和技术突破,相关产业链上下游的厂商有望加速受益,建议关注:(1)存储: 江波龙、德明利、兆易创新、东芯股份等;(2)先进封装:通富微电、长电科技、深科技等;(3)代理:香农芯创等;(4)设备和材料:北方华创、中微公司、赛腾股份、雅克科技等。 风险因素:下游需求不及预期风险;国内技术研发不及预期风险;中美贸易摩擦加剧风险。 目录 美光开始量产HBM3E,武汉新芯招标HBM封装产线4 AI浪潮驱动,HBM先进封装、设备材料产业链环节持续受益7 投资建议9 风险因素9 表目录 表1:美光HBM3E参数特征4 表2:不同次代HBM规格比较5 图目录 图1:三星HBM3E12H产品4 图2:三大原厂HBM产品开发进展5 图3:HBM市场竞争格局6 图4:HBM芯片工艺流程7 图5:先进封装解决方案7 图6:HBM4或将直接堆叠在逻辑芯片之上8 图7:SK海力士独创MR-MUF技术8 美光开始量产HBM3E,武汉新芯招标HBM封装产线 近日,美光宣布已开始量产其HBM3E高带宽内存解决方案。英伟达H200TensorCoreGPU将采用美光8层堆叠的24GB容量HBM3E内存,并于2024年第二季度开始出货。美光HBM3E引脚速率超过9.2Gb/s,提供超过1.2TB/s的内存带宽。与HBM3相比,HBM3E将数据传输速率和峰值内存带宽提高了44%,这对于英伟达H200等需要大量带宽的处理器来说尤其重要。美光利用其1β(1-beta)技术、先进的硅通孔(TSV)和其他实现差异化封装解决方案来生产HBM3E产品,有助于公司在数据中心级产品上提升技术竞争实力和市场占有率。 特征描述 表1:美光HBM3E参数特征 容量24GB,36GB 技术8H,12HHBM3E 尺寸(mm)11mmx11mmx0.72mm 引脚速率>9.2Gb/s 突发传输长度8 通道数16 伪通道2 带宽>1.2TB/s 工作温度0°C≤TOPER≤105°C 资料来源:Micron,信达证券研发中心 三星发布首款36GBHBM3E12HDRAM,目前为三星容量最大的HBM。三星HBM3E12H支持全天候最高带宽达1280GB/s,产品容量也达到了36GB。相比三星8层堆叠的HBM38H,HBM3E12H在带宽和容量上大幅提升超过50%。HBM3E12H采用了先进的热压非导电薄膜(TCNCF)技术,使得12层和8层堆叠产品的高度保持一致,以满足当前HBM封装的要求。相比HBM38H,HBM3E12H搭载于人工智能应用后,公司预计人工智能训练平均速度可提升34%,同时推理服务用户数量也可增加超过11.5倍。 图1:三星HBM3E12H产品 资料来源:三星半导体,信达证券研发中心 HBM(HighBandwidthMemory)是三星、AMD和SK海力士发起的一种基于3D堆栈工艺的高性能DRAM,通过增加带宽,扩展内存容量,让更大的模型,更多的参数留在离核心计算更近的地方,从而减少内存和存储解决方案带来的延迟,适用于高存储器带宽需求的应用场合。从技术角度看,HBM使DRAM从传统2D转变为立体3D,充分利用空间、缩小面积,契合半导体行业小型化、集成化的发展趋势。 表2:不同次代HBM规格比较 次代 速率(Gb/s) 带宽(GB/s) 堆叠层数 Die容量(Gb) HBM容量(GB) HBM 1 128 8 16 16 HBM2 2 256 8 16 16 HBM2E 3.6 461 12 24 36 HBM3 6.4 819 16 32 64 HBM3E 9.6 1229 16 32 64 资料来源:Rambus,信达证券研发中心 SK海力士率先量产HBM3E,HBM4或于2026年推出。根据半导体行业观察,SK海力士于1月中旬正式结束了HBM3E的开发工作,并顺利完成英伟达历时半年的性能评估,计划于3月开始大规模生产HBM3E产品,这批HBM3E将用于英伟达下一代Blackwell系列的AI芯片旗舰产品B100上,而英伟达则计划于2024年第二季度末或第三季度初推出该系列产品。根据TrendForce,HBM4预计规划于2026年推出,或采取HBM堆栈在SoC主芯片之上的封装方式。 图2:三大原厂HBM产品开发进展 资料来源:TrendForce,信达证券研发中心 SK海力士、三星和美光三分天下。根据TrendForce预测,2023年SK海力士HBM3产品领先其他原厂,是NVIDIAServerGPU的主要供应商;三星则着重满足其他云端服务业者的订单,在客户加单下,2023年与SK海力士的市占率差距大幅缩小,2023~2024年两家 业者HBM市占率预估相当,合计拥有HBM市场约95%的市占率,不过因客户组成略有不同,在不同季度的位元出货表现上或有先后。美光2023年专注开发HBM3E产品,相较两家韩厂大幅扩产的规划,TrendForce预期2023~2024年美光的市占率会受排挤效应而略为下滑。 图3:HBM市场竞争格局 资料来源:TrendForce,信达证券研发中心 国内存储厂商入局HBM市场。根据采招网,近日,武汉新芯发布《高带宽存储芯粒先进封装技术研发和产线建设》招标项目,利用三维集成多晶圆堆叠技术,打造更高容量、更大带宽、更小功耗和更高生产效率的国产高带宽存储器(HBM)产品,推进多晶圆堆叠工 艺产业化,新增生产设备约17台/套,拟实现月产出能力≥3000片(12英寸)。我们认为,国内存储厂商在HBM技术上的加速突破,有望在AI大浪潮的需求下提升竞争实力,相关产业链也或将受益。 AI浪潮驱动,HBM先进封装、设备材料产业链环节持续受益 HBM制造工艺包括TSV、Bumping和堆叠等工艺环节。HBM是由多个DRAMdie堆叠而成,利用硅通孔(TSV)和微凸块(Microbump)将die之间相连接,多层DRAMdie再与最下层的Basedie连接,然后通过凸块(Bump)与硅中阶层(interposer)互联。HBM与GPU、CPU或ASIC共同铺设在硅中阶层上,通过CoWoS等2.5D封装工艺相互连接,硅中介层通过CuBump连接至封装基板(PackageSubstrate)上,最后封装基板再通过锡球与下方的PCB基板相连。 硅刻蚀 晶圆载片脱粘&黏贴承载薄膜 TSV铜填充 晶圆回流焊 钝化CMP& TSV铜曝光 TSV铜CMP BEOL金属化 TSV曝光&背面钝化 正面凸点形成 图4:HBM芯片工艺流程 资料来源:SK海力士,信达证券研发中心 存储大厂高度聚焦先进封装,HBM4或将直接放置在处理器上。根据全球半导体观察,目前HBM存储芯片的整体良率在65%左右,HBM良率的高低主要受到其堆叠架构复杂性的影响,这涉及到多层次的内存结构和作为各层连接之用的直通TSV技术。这些复杂技术增加了制程缺陷的风险,可能导致良率低于设计较简单的内存产品。因此存储大厂纷纷加码HBM先进封装,提升HBM良率并降低功耗。此外,根据CFM,SK海力士拟将新一代HBM4堆栈直接放置在处理器上,通过3D堆叠的形式进一步提高I/O数量。 HBM4 HBM3/3E 图5:先进封装解决方案 资料来源:Synopsys,信达证券研发中心 图6:HBM4或将直接堆叠在逻辑芯片之上 资料来源:闪存市场(CFM),信达证券研发中心 SK海力士凭借MR-MUF技术占据HBM市场份额,三星考虑将MUF用于3DSRDIMM。SK海力士在HBM2E和HBM3的生产中引入了大规模回流成型底部填充(MR-MUF)工艺,提高了HBM超过10万个微凸块互连的质量,此外,该工艺充分增加了热虚拟凸块的数量,同时由于采用了高导热率的模制底部填充(MUF)材料,因此散热性能更加出色。根据全球半导体观察,三星认为MUF非常适合3DSRDIMM,而目前3DSRDIMM使用TSV技术制造,主要应用于服务器上,三星正在考虑在其下一代DRAM中MUF技术。若三星也导入MUF,相关制造材料或将持续受益。 图7:SK海力士独创MR-MUF技术 资料来源:SK海力士,信达证券研发中心 投资建议 受益于AI算力需求的强劲推动,HBM或将成为存储芯片市场复苏的主要驱动力,同时国内存储厂商也加速产品布局和技术突破,相关产业链上下游的厂商有望加速受益,