电子12月周专题：AI PC本地大模型如何解决功耗问题？

AIPC产品形态逐渐清晰 联想在2023年10月24日举办的“AI for All”第九届联想创新科技大会上推出首款AI PC，联想认为AI PC能够创建个性化的本地知识库，通过模型压缩技术运行个人大模型，实现AI自然交互。联想集团董事长兼CEO杨元庆认为前期AI PC将占到市场份额的10%，未来AI PC将具备五大核心特质：个人大模型、更强的算力、更大的存储、更顺畅的自然语音交互、更可靠的安全和隐私保护。 功耗或将成为AIPC时代一大痛点 根据华尔街见闻的报道，OpenAI训练GPT-3耗电约为1.29GWh，AI大模型训练和推理均会产生极高的电力消耗。在部署到个人终端之后，即便本地个人大模型参数数量远低于公共大模型，但对于PC端功耗控制的要求预计仍将变得更加严格。 ARM架构在低功耗方面优势显著 ARM架构是一个精简指令集处理器架构家族，广泛应用在多种嵌入式系统设计中，具备低功耗、高性能、低成本等特点。由于其低功耗的显著优势，ARM架构被广泛应用于便携式消费级终端，比如智能手机、可穿戴设备、智能家居等领域。2020年6月，苹果宣布将在Mac产品引入自研ARM架构芯片；高通在2023年10月的夏威夷峰会发布面向PC打造的骁龙X Elite平台，采用高通基于ARM指令集重构的自研CPU——Oryon CPU。AI PC面临功耗方面的挑战，ARM架构有望发挥重要作用。 投资建议 苹果Mac的成功经验已经证明基于ARM架构的CPU可以在PC领域取得非常优异的性能和功耗表现，高通等大厂入局有望加速AI大模型在PC端的落地，因此我们建议关注AI PC产业链相关标的。包括存储环节的澜起科技、聚辰股份、江波龙、信音电子等公司，制造代工端的华勤技术等公司，结构件环节的春秋电子、长盈精密、光大同创、领益智造等公司，电子材料环节的中石科技、飞荣达、思泉新材、隆扬电子等公司，EC芯片环节的芯海科技等公司。 下周展望：AIPC近期事件频出，积极关注上游产业链 今年下半年以来，联想等终端品牌厂商对AI PC的产品定义逐渐定型，有望逐步进入量产阶段。随着英特尔酷睿Ultra处理器正式发布，戴尔、微软、联想等公司的搭载英特尔最新AI芯片的笔记本电脑将陆续上市销售。 上游产业链有望受益于AIPC新时代。 风险提示：AI PC用户体验效果不及预期的风险、高能耗问题难以解决的风险、用户隐私泄露的风险。 1.ARM架构有望加速AI PC产业化 1.1低功耗优势助力ARM架构渗透率持续提升 联想率先定义AIPC产品。联想在2023年10月24日举办的“AI for All”第九届联想创新科技大会上推出首款AIPC，联想认为AI PC能够创建个性化的本地知识库，通过模型压缩技术运行个人大模型，实现AI自然交互。AI PC是为每个人量身定制的全新智能生产力工具，将进一步提高生产力、简化工作流程，联想称之为个人AI双胞胎（AI Twin）。 基于公共大模型、私域大模型、个人大模型，联想集团借助自身在新IT领域“端-边-云-网-智”全栈智能布局的优势，与合作伙伴一起打造了混合AI新框架，为企业和个人提供个性化需求响应。 一项来自联想集团对自身用户的大型调查显示，71%的消费者对AI在工作场景的专业助手应用最为期待。AI可以帮助工作者完成PPT、文案、文书、Excel表格等日常工作的文档处理需求，大幅提升工作效率，并在学习、生活等多种场景下赋能用户体验。 联想集团董事长兼CEO杨元庆认为前期AI PC将占到市场份额的10%，未来AI PC将具备五大核心特质： 能够运行经过压缩和性能优化的个人大模型。 具备更强的算力，能够支持包括CPU、GPU、NPU在内的异构计算。 具备更大的存储，能够容纳更多个人全生命周期的数据并形成个人知识库，为个人大模型的学习、训练、推理、优化提供燃料。 具备更顺畅的自然语言交互，甚至可以用语音、手势完成互动。 具备更可靠的安全和隐私保护。 图表1：个人智能助理将广泛应用于AI内嵌的智能终端 PC端AI大模型面临高功耗的严峻挑战。根据华尔街见闻的报道，OpenAI训练GPT-3耗电约为1.29GWh，大约相当于120个美国家庭1年的用电量。而这仅仅是训练AI模型的前期电力，仅占模型实际使用时所消耗电力的40%。谷歌AI每年耗电量达2.3太瓦时，相当于亚特兰大所有家庭1年用电量。即便本地个人大模型参数数量远低于公共大模型，但对于PC端功耗控制的要求预计也将变得更加严格。 低功耗优势助力ARM架构渗透率不断提升。ARM架构是一个精简指令集处理器架构家族，广泛应用在多种嵌入式系统设计中，具备低功耗、高性能、低成本等特点。 由于其低功耗的显著优势，ARM架构被广泛应用于便携式消费级终端，比如智能手机、可穿戴设备、智能家居等领域，而随着技术的迭代，ARM架构也被逐渐用于PC、服务器、智能驾驶汽车等大型计算设备中。 和X86架构相比，ARM架构具有开放生态和能效比高等优势；和RISC-V架构相比，ARM架构又具有计算性能、软件生态、标准化等方面的优势。 图表2：ARM、X86、RISC-V三大架构优势比较 AmpereComputing基于ARM架构的CPU能耗比显著改善。以Ampere为例，与X86服务器CPU相比，Ampere Altra系列可用50%的能耗，提供200%的性能。作为云原生CPU，Ampere为了优化功耗和面积，去除了传统架构不受云欢迎的特性，实现单核功耗比比传统CPU低67%以上。 图表3：ARM架构CPU和X86架构CPU能效对比 ARM在手机市场大获成功，市占率已经超过99%，占据绝对统治地位。ARM在云计算领域渗透率从2020年的7%提升至2022年的10%。在汽车领域渗透率从2020年33%提升至2022年的41%。整体来看，ARM架构在潜在市场的渗透率已经从2020年的42%提升至2022年的49%。 图表4：各领域的芯片市场规模及ARM架构市占率 1.2多家科技巨头布局基于ARM架构的PC产品 ARM指令集助力苹果打开PC市场。ARM和苹果的合作最早开始于1990年，期间几经波折。2020年6月，苹果宣布将在Mac产品引入自研ARM架构芯片，预计从英特尔芯片到苹果自研芯片的过渡期为两年。 苹果在2023年10月31日发布了M3、M3 Pro和M3 Max三款芯片，均基于 3nm 工艺打造，采用全新图形处理器架构，引入增强型神经网络引擎。三款芯片的晶体管数量分别达到250/370/920亿个。具体表现如下： MacBookPro将首次采用硬件加速光线追踪技术，图形渲染速度大幅提升，最高达到前代产品（M1 Max）的2.5倍，光影效果更加真实。 相比于前代CPU提速80%，每秒运算次数超过18万亿次，强化的16核神经网络引擎，为各种热门机器学习模型大提速。 MacBookPro拥有Mac迄今最持久的电池续航，最长可达22小时。 数千款专门优化的app，能充分释放macOS和Apple芯片的全部实力。M3系列芯片的加持，也带来更胜以往的性能提升。 图表5：苹果M3家族芯片性能展示 高通在2023年10月的夏威夷峰会发布面向PC打造的骁龙X Elite平台。X Elite采用业界领先的高通AI引擎和集成的高通六边形NPU，采用高通基于ARM指令集重构的自研CPU——Oryon CPU。为创意、视频会议、安全和生产力助手提供变革性体验。骁龙X Elite支持在终端侧运行超过130亿参数的生成式AI模型，提供快达竞品4.5倍的AI处理速度。搭载骁龙X Elite的PC预计将于2024年中面市。 图表6：高通骁龙X Elite平台性能展示 根据高通的测试结果，和竞品英特尔酷睿i7-13800H相比，XElite的CPU在相同功耗下的性能要高出一倍；在达到竞品顶峰性能的情况下，功耗要低65%。据高通总裁兼CEO安蒙介绍，Oryon CPU的单核性能超出苹果M2 Max约14%，功耗减少30%； 性能超出英特尔酷睿i9-13980HX约1%，但功耗降低幅度高达70%。 图表7：高通骁龙X Elite平台CPU性能与竞品对比 除此以外，AMD、微软等全球科技巨头也在研发布局基于ARM架构的处理器产品。 1.3相关标的 苹果Mac的成功经验已经证明基于ARM架构的CPU可以在PC领域取得非常优异的性能和功耗表现，高通等大厂入局有望加速AI大模型在PC端的落地，因此我们建议关注AI PC产业链相关标的。包括制造代工端的华勤技术等公司，存储环节的澜起科技、江波龙等公司，结构件环节的春秋电子、长盈精密、光大同创、领益智造等公司，电子材料环节的中石科技、飞荣达、思泉新材、隆扬电子等公司，EC芯片环节的芯海科技等公司。 2.风险提示 AIPC用户体验效果不及预期的风险：目前AIPC仍处于发展早期，尚未有被明确定义的AI PC大规模量产，实际用户体验仍然存在不确定性。如果使用效果和传统PC差距不大，用户换机的可能性降低，或将推迟整个产业的量产进度。 高能耗问题难以解决的风险：AI大模型在本地运行将会消耗较高的电量，给电池端和散热方面都提出了新的挑战。如果实际能耗超出预期，或将延迟AI PC产品推广的进度。 用户隐私泄露的风险：AI PC重点任务在于打造针对个人用户的AI助理，前提是对用户的信息充分了解，如果本地数据和信息保护不到位，或将造成用户隐私泄露的风险。