一、核心背景与事件
英伟达于2026年初以约200亿美元收购AI芯片公司Groq,其核心产品LPU专为语言模型推理设计。本次GTC大会是收购后的首次重要更新,旨在应对快速崛起的AI推理市场,特别是“Prefill(预填充)与Decode(解码)分离”(PD分离)趋势。
二、LPU的核心技术特点
LPU由源自谷歌TPU的初始成员设计,采用片内大容量SRAM解决“存储墙”问题,牺牲算力单元以部署更多SRAM,实现低延迟和高带宽。其软件与编译器支持确定性执行和软硬件协同,但成本高、灵活性差,更适合与通用GPU协同工作。
三、LPU与GPU、TPU的对比
GPU通用性强但依赖片外HBM传输,TPU专为矩阵乘法优化但同样依赖片外存储,而LPU通过片上大SRAM和专用编译器为确定模型提供极致执行效率,尤其适合低延迟、高带宽的Decode场景。
四、核心应用场景:PD分离下的推理优化
AI推理瓶颈从“算力”转向“存储与调度”。Prefill阶段适合英伟达CPX系列(计算密集型),Decode阶段适合LPU(内存密集型)。英伟达通过CPX+LPU组合优化PD分离推理流程,巩固市场份额。
五、LPU带来的增量环节
LPU发展将驱动产业链增量需求:SRAM技术升级(3D堆叠、分层管理)、PCB层数和材料新要求、先进封装(3D SoIC、2.5D CoWoS)、配套芯片(Switch、FPGA)以及液冷散热解决方案。
六、产业趋势与展望
推理市场持续扩大,PD分离成为明确趋势。长期看好CPU负载和重要性增强。LPU作为专用解码加速器,通过片内大SRAM和确定性编译执行在Decode场景具有独特优势,驱动产业链环节增量需求,并与GPU协同优化推理算力系统。