HBM(高带宽内存)技术凭借其高带宽、高内存密度和低功耗的特点,通过3D堆叠设计和硅通孔(TSV)技术,有效解决了传统存储技术在高性能计算、图形渲染、AI等领域的瓶颈问题,缓解了“带宽墙”和“内存墙”问题。HBM2内存容量达8GB,HBM3内存容量达16GB,HBM3e内存容量高达141GB,带宽达4.8 TB/s,显著提升了大模型性能。
AI时代对芯片需求的变化为国产化提供了机会。先进制程难以追赶,但封装技术迭代更新,国产设备和工艺可保持较高ROI,chiplet和更大尺寸封装国产成功率很高。AI时代对芯片的需求推动了对更大的中介层和更大的封装尺寸的需求,单卡性能重点变为算力+带宽匹配,chiplet技术可提升算力,HBM堆叠可提升访存带宽。
未来AI需求将更多来自推理,利好国产芯片。推理计算scaling将促进AGI更快到来,未来推理卡能落地的商业场景远比训练多,利好头部厂商,也给国产芯片提供更多机会。长期来看,芯片定义应用将转向应用定义芯片,国产芯片将有弯道超车的机会,但面临国产化类似cuda的软件生态和生态效率等问题。
风险提示包括算力场景落地不及预期、政策变动、产品研发不及预期等。