- 核心观点:LPU(低延迟推理单元)是本次GTC最值得关注的新增量与本质变化,若英伟达推出LPX机架并明确GPU+LPU异构推理路线,将补齐低延迟、确定性推理能力,完善AI基础设施版图。
- 时间节奏:美西时间3月16日上午黄仁勋演讲可能发布Rubin架构、LPX机架等重磅产品;同日下午Jonathan Ross演讲标题“GPU爱上LPU”暗示LPU已进入产品化落地阶段。
- 架构优势:LPU采用VLIW+dataflow架构,通过静态编译实现确定性调度,优于GPU的动态调度,更适合低延迟、强实时性任务(如语音交互、Agent工作流、工业控制)。
- 配置特点:LPU采用纯SRAM片上存储(单芯片约220MB),无外部DRAM但带宽高达80TB/s,呈现“高带宽、低容量”特性,适合decode和实时推理,缓解GPU memory wall问题。
- LPX机架升级:Enhanced LPX预计升级至256颗LPU,采用液冷方案,从单芯片升级到完整机架级平台扩展;2027年LPU或进一步升级。
- 出货量预测:液冷LPU机柜2026年约1,000柜,2027年增至6,000–8,000柜,对应LPU芯片出货量分别约25.6万颗和153.6万–204.8万颗,显示低延迟推理需求从验证迈向规模部署。
- 供应链受益方向:1)RealScale连接器(Dragonfly switchless拓扑下单rack用量高,单柜价值量达3万–5万美元);2)高端PCB;3)液冷板/快速接头(因单柜芯片量大同步放量)。
- 应用场景:OpenAI或成为首批客户,Codex Spark与Agent to Agent的低TTOT场景下LPU具有独特价值。
- 长期展望:随着先进制程、封装和软件栈升级,LPU有望从sidecar形态逐步走向更深度的异构集成。