AI专题：从模型视角看端侧AI：模型技术持续演进，交互体验有望升级

总结：

本报告从模型技术的角度探讨了端侧人工智能（AI）的发展路径，主要围绕三大部分展开：模型的构建、模型的适配与硬件升级、以及模型如何推动人机交互体验的突破。

模型的构建与高效压缩

• 基础构建：报告指出，高效的模型压缩是端侧AI的关键第一步。在保持良好性能的前提下，模型尺寸的缩小对于端侧部署至关重要。当前，7B参数规模的模型占据主导地位，而3B及以下的小模型正在探索中。部分小模型（如谷歌的Gemini-Nano和Meta的Llama-3系列）在特定基准测试中性能接近甚至超过更大参数的模型，表明在算法优化方面的持续努力有助于平衡模型大小与性能。

• 技术进展：在模型压缩技术上，研究强调了算法优化的多个方向，包括知识蒸馏、量化、剪枝等方法，以及滑动窗口注意力机制、全局注意力机制等稀疏注意力机制的运用。此外，多头注意力变体，如分组查询注意力机制和多头隐式注意力机制，也被提出以降低模型的存算需求，保持较好的性能。

模型的适配与硬件升级

• 小模型与终端硬件：小模型的落地依赖于与终端硬件的有效适配。目前，手机硬件面临内存、功耗、算力三大瓶颈。例如，Meta指出，一个70亿参数的语言模型需要超过14GB的DRAM空间，而一个5000焦耳能量的iPhone只能支持7B模型在较低速率下的对话2小时。因此，手机芯片厂商和品牌商正在通过研发先进的AI芯片、增加内存容量和带宽、提升CPU和GPU性能、以及优化电池和散热系统来支持AI模型的部署。

体验的突破与人机交互

• 系统级AI：端侧模型不仅限于简单的聊天机器人应用，而是通过集成UI模型、云端模型以及系统级AI，实现更丰富、深度的交互体验。这将改变手机系统和应用交互的方式，成为影响用户选择的关键因素。当前，苹果与OpenAI、谷歌与高通、三星的合作模式展示了这一趋势。

相关标的与风险提示

报告推荐了苹果(AAPL.O)、三星电子(005930.KS)、高通(QCOM.O)、谷歌(GOOGL.O)等公司作为关注对象，并提示了端侧AI技术进展不及预期、行业竞争加剧、应用开发进度低于预期等潜在风险。

报告整体展示了端侧AI技术的持续进步及其对终端市场的深远影响，特别是通过优化模型大小、适配硬件升级和增强人机交互体验，推动了AI技术的普及和应用。