您的浏览器禁用了JavaScript(一种计算机语言,用以实现您与网页的交互),请解除该禁用,或者联系我们。[未知机构]:【中信建投电子】HBM行业深度:AI的内存瓶颈,高壁垒高增速 - 发现报告
当前位置:首页/会议纪要/报告详情/

【中信建投电子】HBM行业深度:AI的内存瓶颈,高壁垒高增速

2024-03-29-未知机构浮***
【中信建投电子】HBM行业深度:AI的内存瓶颈,高壁垒高增速

【中信建投电子】HBM行业深度:AI的内存瓶颈,高壁垒高增速 #HBM是当前算力的内存瓶颈。 从存储器到处理器,数据搬运会面临带宽和功耗的问题。 HBM由于采用了TSV、微凸块等技术,DRAM裸片、计算核心间实现了较短的信号传输路径、较高的I/O数据速率、高位宽和较低的I/O电压,因此具备高带宽、高存储密度、低功耗等优势。 即便如此,当前HBM的性能仍然跟不上算力卡的需 【中信建投电子】HBM行业深度:AI的内存瓶颈,高壁垒高增速 #HBM是当前算力的内存瓶颈。 从存储器到处理器,数据搬运会面临带宽和功耗的问题。 HBM由于采用了TSV、微凸块等技术,DRAM裸片、计算核心间实现了较短的信号传输路径、较高的I/O数据速率、高位宽和较低的I/O电压,因此具备高带宽、高存储密度、低功耗等优势。 即便如此,当前HBM的性能仍然跟不上算力卡的需求。 #三大原厂持续加大研发投入、HBM性能倍数级提升。 目前最先进的HBM3e版本,理论上可实现16层堆叠、64GB容量和1.2TB/s的带宽,分别为初代HBM的2倍、9.6倍和4倍。 2024年上半年,海力士、三星、美光均会推出24GB容量的HBM3e,下半年将推出36GB版本的HBM3e。此外,HBM4有望于2026年推出。 #HBM制造集成前道工艺与先进封装、TSV/EMC/键合工艺是关键。 目前主流的HBM制造工艺是TSV+Microbumping+TCB,如三星TC-NCF工艺,而海力士采用MR-MUF工艺,在键合应力、散热性能、堆叠层数方面更有优势。 随着HBM堆叠层数增加,以及HBM对速率、散热等性能要求的提高,HBM4开始可能引入混合键合工艺,TSV、GMC/LMC的要求也将提高。 #AI刺激服务器存储容量扩充、HBM需求强劲。 相较于一般服务器,AI服务器增加GPGPU,NVIDIADGX/HGX的HBM用量为640GB,超越常规服务器,H200、B100等将搭载更高配置HBM。 随着算力卡单卡HBM容量提升、算力卡出货量提升、技术迭代带来HBM单价提升,预计2024年HBM市场规模增长至148亿美元,2026年242亿美元,2023~2026年CAGR为82%。 #投资建议:目前HBM供应链以海外厂商为主、部分国内厂商打入了海外存储/HBM供应链。 国产HBM正处于0到1的突破期,HBM供应主要为韩系、美系厂商,国内能获得的HBM资源较少。 随着国产算力卡需求快速增长,对于算力卡性能至关重要的HBM也有强烈的供应保障诉求和国产化诉求。建议关注:封测、设备、材料等环节。