计算机行业人工智能系列报告(一)：终端智能，人工智能AI的新革命.PDF

行业专题报告|计算机 证券研究报告2024年03月05日 终端智能，人工智能AI的新革命 人工智能系列报告（一） 核心结论 基于成本、能耗、可靠性和时延、隐私、个性化服务等考虑，端云混合的AI才是AI的未来，高通认为终端AI能力是赋能混合AI并让生成式AI实现全球规模化扩展的关键。 百亿参数开源MoE大模型Mixtral 8x7B再掀热潮，性能超LLaMA2-70B，对标GPT-3.5。MoE（混合专家模型）通过将任务分配给对应的一组专家模型来提高模型的性能和效率。Mixtral 8x7B的专家数量为8个，总参数量为470亿，但在推理过程中仅调用两个专家即只调用130亿参数。 我们认为MoE或为现阶段大模型平衡成本、延迟以及性能的最优选择，叠加开源模型本身高灵活性、安全性和高性价比特点，Mistral AI的开源MoE轻量化模型可能是未来最适合部署于终端的模型。目前，高通、联发科、英特尔、AMD等龙头芯片厂商都推出了终端AI芯片,能跑十亿甚至百亿量级大模型。后续类Mixtral 8x7B的SMoE模型在高性能基础上继续压缩的话，很大几率可以装进终端设备实现本地运行。SMoE轻量模型大幅降低了训练的门槛和成本，且由于在推理时只激活少部分参数，保持较高性能的同时能适应不同的计算环境，包括计算能力有限的终端，降低推理成本且将催生更多大模型相关应用。 分析师 郑宏达S080052402000113918906471zhenghongda@research.xbmail.com.cn 2024年有望成为终端智能元年，看好拥有终端资源、深耕场景、掌握行业knowhow、积累了海量数据的B端和C端公司。1）未来每台终端都将是AI终端，包括AI PC、AI手机、AI MR等，这将带来全新的用户体验。2）AI PC有望成为“AI+”终端中最先爆发的。英特尔预计全球今年将交付4000万台AIPC，明年将交付6000万台，预估2025年底AI PC在全球PC市场中占比将超过20%；微软AI PC预计于今年亮相。3）随着大模型逐步发展，尤其是多模态能力增强，更广泛的AIoT设备也迎来了更新换代的重要机遇。3）B端私有化部署也是AI应用的重要方向，关注边缘侧AI。4）鸿蒙：提供顶级流畅连接体验，大模型有望赋能奔赴万物智联下一站。 相关研究 计算机：AI新硬件的崛起—计算机行业2024年3月研究观点2024-03-03计算机：从OpenAI论文看AI算力的重要性—AIGC行业跟踪2024-02-27计算机：继续围绕人工智能投资主线—计算机行业周观点第2期2024-02-25 人形机器人是大模型应用的重要硬件载体，也是终端智能发展的核心方向。1）人形机器人是目前具身智能最好的形态，因为它们有着与人相似的外观设计，能更好地适应周围的环境和基础设施。2）端云混合的“大脑”让机器人既能处理复杂和高强度的计算任务，又能实时进行信息处理和分析。 建议关注：1）算力基础：中科曙光、神州数码、浪潮信息、高新发展；2）AIPC：华勤技术、龙旗科技、联想集团、星环科技-U、海光信息；3）终端鸿蒙：润和软件、九联科技、东方中科、软通动力、中国软件国际、拓维信息、初灵信息；4）拥有丰富的终端资源：海康威视、大华股份、科大讯飞、萤石网络、漫步者；5）B端应用：北路智控、智洋创新、云涌科技、商汤-W、云从科技-UW。风险提示：AIGC技术突破不及预期、终端智能需求不及预期、宏观经济增长不及预期、国际环境变化。 1|请务必仔细阅读报告尾部的投资评级说明和声明 内容目录 一、端云混合的AI是AI的未来.............................................................................................4二、高性能小模型比肩GPT-3.5，终端智能前景可期............................................................42.1关注MoE——LLM头部玩家们正在实践的重要技术路线............................................42.2 Mixtral 8x7B：低成本SMoE小模型+开源，更务实的GenAI商业化路线...................62.3端侧AI芯片已能支持百亿参数模型本地运行，看好轻量SMoE模型终端部署前景...82.3.1高通：端侧AI芯片领导者，提供软硬件全栈优化..............................................82.3.2全球芯片巨头：密集发布新品，抢抓终端侧AI机遇.........................................11三、看好拥有终端资源的B端和C端公司..........................................................................133.1各类“AI+”终端产品陆续发布，新周期大幕拉开.........................................................133.2 AI PC有望成为“AI+”终端中最先爆发的......................................................................143.3大模型有望驱动AIoT硬件升级，关注深耕场景、具有终端资源的公司....................153.4私有化部署的B端场景也是AI应用的重要方向，关注边缘侧AI..............................163.5鸿蒙：提供顶级的流畅连接体验，大模型有望赋能奔赴万物智联下一站..................16四、人形机器人：大模型应用的重要硬件载体，终端智能发展的核心方向.........................174.1具备思维链及零样本学习特性，大模型开启机器人智能化新篇章.............................184.2端云融合AI为机器人打造智能高效“大脑”.................................................................194.3产业催化不断，人形机器人有望迎来奇点时刻..........................................................19五、建议关注.......................................................................................................................20六、风险提示.......................................................................................................................20 图表目录 图1：AI处理的重心正在向边缘转移.......................................................................................4图2：MoE架构示意图............................................................................................................5图3：MoE两个关键部分........................................................................................................5图4：Gemini 1.5领先的上下文窗口长度................................................................................6图5：Mistral 8x7B与LLama性能对比...................................................................................6图6：Mistral 8x7B性能可对标GPT-3.5.................................................................................7图7：LMSys排行榜上Mixtral 8x7B–Instruct得分较高.........................................................7图8：Mistral 8x7B与Llama“规模-效率”对比图......................................................................8图9：Hexagon处理器的迭代更新过程...................................................................................9图10：高通AI软件栈...........................................................................................................9图11：高通AI研究采用整体AI模型效率研究方法...............................................................9图12：高通全球终端芯片布局..............................................................................................10图13：高通骁龙X Elite概览.................................................................................................10 图14：高通骁龙8 Gen3概览...............................................................................................10图15：高通骁龙XR2 Gen2概览..........................................................................................11图16：高通骁龙AR1 Gen1概览..........................................................................................11图17：高通骁龙XR2+ Gen2概览........................................................................................11图18：第一代高通S7和S7 Pro音频平台概览....................................................................11图19：天玑9300端侧AI性能概览.............