猜你想问
端侧AI最新进展有哪些？
Meta发布约300亿参数的开源多模态模型Muse Glimmer，支持文本、图片输入及文本输出，覆盖100余种语言，可在单张消费级GPU上运行。其特点是低内存占用（BF16模式下KV Cache仅约52KiB/token），较快Prefill/Decode速度，并具备较完整的Agent能力。NVIDIA推出Nemotron 3.5 Lightning 30B-A3B模型，采用Mamba-2、MoE与Attention混合架构，支持最长1M上下文，可运行于GeForce RTX 5090等本地设备。该模型定位为Agent系统中的高频执行层，配合NeMo Switchyard动态调用大模型或小模型，输出速度中位数约301 token/s。Google发布Pixel 11系列手机、Pixel Watch 5及Pixel Tag，进一步增加端侧AI承担的任务，如实时翻译、语音及感知任务。
端侧AI行业发展趋势如何？
AI基础设施投入规模扩大，CSP对ROI与推理效率的重视度提升，Agent应用使模型调用频次快速增加，端云协同的重要性进一步凸显。NVIDIA探索由云端Frontier Model承担复杂规划、端侧高效模型承担高频、低延迟执行任务。Google新品中本地AI承担的翻译、语音及感知任务亦持续增加。未来更多高频任务有望向本地迁移，端侧AI在整体算力体系中的重要性有望持续提升。AI应用形态向主动Agent、多模态交互和持续感知演进。
报告重点分析了哪些方向？
报告重点分析了Meta开源多模态模型Muse Glimmer的技术特点，如低内存占用和快速处理速度；NVIDIA Nemotron 3.5 Lightning模型的高频执行层定位及动态调用能力；Google Pixel系列及Pixel Watch 5中端侧AI的应用形态，包括实时翻译、语音交互和健康数据监测。同时探讨了端云协同对提升端侧AI价值的重要性，以及未来高频任务向本地迁移的趋势。
当前端侧AI市场现状如何？
随着AI技术发展，端侧AI重要性凸显。Meta、NVIDIA、Google等企业积极发布相关模型和产品，推动Agent模型加速落地。端侧AI应用场景不断丰富，从简单的语音助手向多模态交互、持续感知等高级形态演进。端云协同成为提升端侧AI价值的关键，云端负责复杂规划，端侧负责高频低延迟执行。市场竞争激烈，技术创新成为核心竞争力。
研报提示哪些风险？
报告提示技术创新不及预期风险，如端侧AI模型性能提升缓慢或应用场景落地受阻。终端需求不足风险，如消费者对端侧AI产品接受度不高或购买意愿不强。宏观环境风险，如全球经济下行压力加大或政策变化可能影响行业投资和发展。需关注技术迭代速度和市场需求变化，以及宏观经济环境对行业的影响。