申万计算机国产算力思考260322第四期从GTC的架构之变看云厂对算力

GTC最大变化：引入LPU？

核心观点

• GTC最大变化是引入LPU，旨在满足Agentic LLM推理需求。
• LPU通过完全确定性编译和静态存储SRAM保障数据读取确定性，提供极低延迟。
• LPU并非全能，英伟达采用A-F-D分离方案，将Decode阶段的FFN计算（MoE计算）分配给LPU，而prefill和Attention计算仍由GPU负责。

算力需求变化

• 云厂是英伟达最大客户，Claude code、Openclaw出现后需求持续爆发。
• 供需不对称是驱动云涨价的持续动力。
• 供给端半导体产能增加是二次幂，需求增加是指数型，由大模型Attention机制决定。
• Chatbot算力需求=（用户数用户粘性）^2，Agent/多模态算力需求=chatbot多轮调用/（图像像素数*视频帧数）。

新推理系统

• NV发布的新推理系统满足云厂对ROI的追求。
• A-F-D分离方案帮助云厂精打细算。

未来趋势

• 云厂可能继续解耦，将计算、存储、网络拆开售卖。
• 芯片职能将越来越细分，搜广推、LLM推理、Agent推理、多模态推理场景将使用不同芯片。
• 电胜于算，算力端将全面普及液冷技术。
• PUE更低者能在涨价潮中获得更高利润率。