寻找下一个算力时代的CPO！HBM深度路演

寻找下一个算力时代的CPO！HBM深度路演20231117 1.HBM行业介绍 (1)HBM的重要性 HBM在H100芯片中的价值占比超过了台积电的一个价值量占比。根据简单测算，H100的裸片成本约为200美金，加上封装成本约为700~800美金，即台积电在一片H100的供应中，物料成本约为1000美金左右。HBM成为了成本中最大的一项。 寻找下一个算力时代的CPO！HBM深度路演20231117 1.HBM行业介绍 (1)HBM的重要性 HBM在H100芯片中的价值占比超过了台积电的一个价值量占比。根据简单测算，H100的裸片成本约为200美金，加上封装成本约为700~800美金，即台积电在一片H100的供应中，物料成本约为1000美金左右。HBM成为了成本中最大的一项。 摩尔定律的瓶颈决定了GPU自身的迭代已无法跟上算力需求的增长，英伟达选择的最优方案是通过存力弥补，包括相对落后的国产算力大概率也会效仿，HBM在接下来很长一段时间里会是Al硬件中增速最高的细分。 (2)HBM的性能提升 HBM通过封装形式与GPU直接相连，在总线位宽、时钟速率、带宽、工作电压等性能参数方面具有明显优势。相同功耗下的带宽是DDR5的三倍以上，因此在追求极致带宽和速度方面，需要采用HBM和相关的工艺路线和配套封装材料。 (3)HBM的供应链情况 HBM仍然供不应求，尽管三星和海力士已经扩大产能，但中国大陆地区的HBM供应仍然很紧张。因此，预计明年HBM供应链稳定和货源拿到手的情况，可能成为各家AI芯片厂商或板卡厂商的竞争优势。 2.HBM的市场前景 (1)市场规模预测 基于AI服务器的销售预期，可以估算出HBM市场的规模。根据每GB售价20美元进行测算，预计到2022年，整个HBM市场规模约为3636亿美元，到2026年将达到127亿美元以上。 (2)ASP下降空间 云计算巨头逐步投放产能可能导致市场平均销售价格（ASP）下降。 (3)海力士的出货量预测 海力士官方预计，到2026年前后的出货量将达到1亿颗左右。 (4)市场格局 目前，据第三方数据披露，海力士占据50%的市场份额，三星占40%，美方占10%。但从ASP量价相乘的角度、营收端的角度来看，今年海地市的一个占比应该还是超过65%的，明后年的整个 份额的一个变化，取决于三星和美光的扩产追赶的进度。 3.HBM的工艺流程介绍 HBM的工艺流程包括TSV形成、绝缘层全气绝缘、阻挡层种子层沉积、电镀填充、CMP抛光等步骤。各个步骤涉及到的设备供应商包括海外，以及国内的北方华创、中微、华特气体、拓荆科技、天承科技、上海新阳等。 其他补充内容 4. 根据拆分成本，可以看到在逻辑芯片和4层存储堆叠的HBM中，前段工艺和后段工艺分别占据20%的成本比例，而TSV的工艺成本占比为18%，TSV的背面露头的工艺成本占比为12%。整个组装的成本占比约为15%左右。 Q&A Q：HBM技术在市场上的份额占比如何变化？是否受三星和美光的扩产进度影响？A：今年海力士HBM技术的市场份额超过65%，今后的变化取决于三星和美光的扩产进度。 Q：HBM的工艺流程中使用的关键设备和材料有哪些公司供应？ A：在HBM的工艺流程中，涉及到的设备和材料供应商包括海外公司如硬材、泛林、百业、空默克以及国内公司如北方华创、中微、华特气体等。 Q：HBM封装的成本拆分中，前段工艺、后段工艺和TSV形成的占比如何？A：在封装成本的拆分中，前段工艺和后段工艺分别占20%的成本，TSV形成的占18%的成本，TSV背面露头的工艺占12%的成本。Q：先进封装电镀材料行业的市场规模如何预测？HBM技术是否会增加测试机需求？ A：预计由于先进封装结构中重布线TSV和铜铸的用量增加，先进封装电镀材料的市场规模将在2026年超过12亿美元。另外，HBM相对于DRAM 还有更多的测试需求，包括TSV散热和底部贝斯带的逻辑型片的测试，这推动了对测试机的需求增加。 Q：目前在HBM工艺方面，哪些供应商在这个领域处于领先地位？他们的技术优势和市场份额如何？ A：目前在HBM工艺方面，海力士是处于领先地位的厂商。海力士的研发起步较早，尤其在技术热撬取和材料方面有领先优势。海力士采用了一种新技术，用液态环氧树脂塑封材料替代传统的非导电膜，提高了热导率，改善了工艺速度和良率。因此，海力士在HBM工艺市场上仍然保持着第一的市场份额。三星也宣布了进一步投资做HBM3产线，其优势在于代工业务和2.5D/3D封 装方面。而美光相对来说还处于追赶阶段。综上所述，对于投资者来说，应该关注HBM核心设备材料的供应商，以及一些潜在的供应商。 解读一 Q：目前有哪些供应链环节和供应商与HBM工艺相关？可以具体提供一些公司的名字吗？A：在HBM工艺中，与之相关的供应链环节和供应商包括：前驱体供应商雅克科技、做固精机的设备供应商长川科技、测试环节供应商新益昌、电镀液材料供应商天承科技、塑封料供应商华海成科以及封装环节供应商深科技。此外，海力士服务器存储中国区的总代理向东新创也与HBM工艺相关。这些供应商涵盖了HBM工艺的各个环节，对投资决策有一定参考价值。 逻辑1：存储HBM新技术龙头 因为HBM的高性能，2023年以来，海外三星、SK海力士等对HBM的接单量大增，同时ChatGPT的火爆，也带动HBM价格也水涨船高。有市场人士透露，近期HBM3规格DRAM价格上涨了5倍。深科技具备8层和16层DRAM堆叠工艺。2020年，大基金二期、合肥地方政府、深科技三方共同投资成立合肥沛顿，项目总投资是100亿元，是国内唯一可以进行高端内存封装的公司，主要为国内自主存储半导体龙头提供封装和测试业务，也能生产HBM内存。 逻辑2：深度绑定合肥长鑫 这里说到合肥地方政府，就不得不说到国内存储芯片领域的扛把子公司合肥长鑫了，合肥长鑫是国产DRAM的龙头企业，目前没有上市，如果上市，那么它的体量将会是千亿市值的公司。深科技与合肥长鑫成立有合资公司，深度绑定合肥长鑫，根据相关数据，合肥长鑫有60%的封测业务都是由深科技承担的。 逻辑3：光模块黑马 解读二 光模块被类比为逆变器赛道，光伏逆变器，走出了很多的黑马，光模块目前也是出现了很多走势不错的公司。深科技持有昂纳科技17.78的股权昂纳科技有100G/200G/400G/800G光模块，在光芯片、硅光、光学镀膜及光电封装多个高科技领域的龙头公司。 H200证明HBM比台积电更重要；某外资行上调英伟达收入预测先聊一下英伟达H200： H200充分证明了，就算不添加更多CUDA核或超频，只增加更多的HBM和更快的IO，即便保持现有Hopper架构不变，英伟达依然可以实现相当于架构代际升级的性能提升。这么简单为什么不直接做？HBM太贵了，贵到超过了GPU本身的diecost（只算代工BOM），提升HBM就意味着牺牲毛利，把毛利出让给海力士。作为AMD或者Intel毛利率40%的选手doubleHBM比割肉还疼，但作为只看晶圆成本毛利率几乎90%的英伟达，面对一个严重供不应求的市场，且具有提价passthrough能力（不是可能，是一定会），提升HBM是顺理成章。尤其是AMD将在12月6 日发布“Antares”系列GPU，以及InstinctMI300X的192GBHBM3，以及对标GraceHopper的MI300A拥有128GBHBM3（这些都超过了H100的HBM量），英伟达这次的突然发布有点像对此的回应。 从另一个角度，不得不令人怀疑，之前鼓吹算力、核数，多少有营销的成分，之前如此高的算力实际上都没有被充分利用，因为可怜的显存数量和IO带宽是瘸掉的两条腿，你上臂摆得再快，也跑不动啊！如果你再想想英伟达依旧巨高的毛利率，以及2-3万美金的价格，可以买多少HBM？大概大几百GB？。没办法，说白了这是英伟达有“能力”选择留给自己的利润。谁让你离不了CUDA呢？你不配拥有这么多HBM！从这个角度，巨头定制ASIC真的有非常非常强的动力，不仅仅是节省cost了，我可以获得更强大的内存和IO，以及（如果软件适配和通用性解决的话）更强大的性能。当然，后者可能比较难实现… 从这个角度，HBM甚至比台积电的制程更重要，耗费巨额资金研发调试跑通扩产出来的3nm以及未来的GAA，对GPU的提升又是老掉牙的20%30%，这种速度哪跟得上AI的速度？而HBM只要成本实现快速降低、更紧密的堆叠、更快的IO，对GPU性能的推动却是几何数级别的。想到这里我自己都觉得好有趣啊，往往你觉得最难的事情反而价值不是最大！而你最不起眼的事情，可能惊奇地发现是关键。 再回到英伟达昨天一起发的这张图，H200相比H100的性能提升，真就与HBM的提升 （volume+speed）比例几乎一致。此外短短3年推理的性能提升了18倍非常惊人。最后，可以预测下B100的spec了，会不会是256甚至 512GB的HBM+10TB/s的带宽，而与之对应的价格（合理假设英伟达决定保持毛利率不变）可能要到6-9万美金。