LPU专题报告一：架构创新突破大模型推理延迟瓶颈，广阔市场空间有望快速放量

核心观点

LPU是Groq公司推出的一款面向大模型推理阶段的定制芯片，其核心架构为TSP，通过将经典处理器五级流水线拆散在整个芯片内，实现了指令执行顺序和时间确定性，并支持软件定义硬件。

LPU优势

LPU可缩短大模型推理延迟，提高用户体验。大模型推理延迟主要发生在Decode阶段，核心瓶颈在于内存带宽。LPU采用SRAM作为存储介质，具备更快的内存带宽（高达80TB/s），从而有效缩短推理延迟。基于LPU的大模型不仅推理速度更快，还具有更具性价比的价格。

市场空间

随着Tokens消耗量大幅增长，推理芯片市场规模迎来高增长。2024年初我国日均Token消耗量为1000亿，2026年2月已增长至180万亿级别。预计2031年全球推理AI芯片市场规模将达到690.1亿美元，2025-2031年CAGR为25.7%。LPU有望在推理芯片市场中逐步渗透，具有高成长性的市场空间。

产业发展

海外方面，Groq已与英伟达签订非独家推理技术许可协议，并计划于2026年进入商业化量产初期。国内方面，元川微已推出LPU产品，是国内领先的基于LPU架构的算力芯片设计企业。

投资建议

建议关注：智微智能（参股元川微）、星宸科技（多轮增资元川微）、沪电股份（英伟达PCB供应商）、胜宏科技（英伟达PCB供应商）、深南电路（英伟达PCB供应商）。

风险提示

AI技术迭代不及预期、大模型发展不及预期、LPU行业发展不及预期。