当前大模型发展仍处于Free阶段,NV根据单个用户每秒获得的Tokens(TPS/User)将大模型分为不同价格档位:Free(~50TPS/User,对应Qwen 3,价格为$0/百万Tokens)、Medium(~100TPS/User,对应Kimi K2.5,价格为$3/百万Tokens)、High(~200TPS/User,对应GPT MoE,价格为$6/百万Tokens)、Premium(~400TPS/User,对应GPT MoE,价格为$45/百万Tokens)和Ultra(~800TPS/User,对应GPT MoE,价格为$150/百万Tokens)。
NVLink可满足Free-High阶段的吞吐量需求,而Groq可延伸需求能力至Premium-Ultra阶段。随着大模型进入Premium阶段,Vera Rubin相较于Blackwell可提高10倍吞吐量,加入Groq的能力时,相较于Blackwell可提供35倍吞吐量。NV收购Groq旨在为Premium、Ultra阶段的大模型提供服务。
新一代Groq LPUv3升级了SRAM(从230MB提高到500MB)和内存带宽(从80TB/s升级到150TB/s),与Rubin(提供288GB HBM4)呈互补作用。NV重新设计了推理执行方式,将两个处理器整合(一个用于高吞吐量,一个用于低延迟),并将解码生成、低延迟、带宽受限的工作负载分配给LPU。
NV推出Groq 3 LPX机柜,内置8颗Groq Chip(LPU 3),提供128GB SRAM和40PB/s内存带宽,目前已量产,与Rubin机柜以以太网形式链接,预计2026年Q3发货。
投资建议:LPU受益于低推理延时的优异表现,有望快速渗透,看好LPU的高成长性及LPU以机柜出货带来的PCB机会。建议关注:智微智能(参股元川微)、星宸科技(多轮增资元川微)、沪电股份(英伟达PCB供应商)、胜宏科技(英伟达PCB供应商)、深南电路。