AI PC：AI 普惠第一终端

AIPC： 从工具到平台 AI普惠第一终端 目录 目录 序言2 第一章理解AIPC3 1.1新型人机关系正在建立4 1.2在PC上部署完整的个人AI6 1.3AI用户体验决定下一代PC7 第二章整机厂商构建个人AI用户体验8 2.1异构算力的本地推理引擎9 2.2下一代交互入口的AIOS13 2.3用户反馈驱动的AI生态17 2.4必须由整机厂商完成技术收敛21 第三章AIPC市场价值22 3.1整机厂商受益于升级换代23 3.2下半年起跨越鸿沟28 第四章整机厂商打开个人AI创新空间29 4.1超越AI驱动的换机周期30 4.2AIPC将在中国首推31 1 序言 序言 生成式AI大模型，又一次改变了人机交互方式。 大模型正在从云端快速向设备端下沉部署。个人电脑、手机、汽车、机器人、可穿戴、传感器，AI原生设备，等等。其中，个人电脑成为通用人工智能部署的第一个终端，AIPC正在迎来个人AI时代。 重温当年的微处理器和图形界面的操作系统，端侧大模型毫无疑问又是计算机领域一个新的“十倍速”因素。计算机从大型与集中的系统，走向分散化和小型化，直至个人化，掀起了个人电脑革命。这一次迎来个人AI的时代，将会更快。 英特尔CEO格鲁夫和技术创新管理大师克里斯坦森，都对PC技术、行业与创新发展做出过经典的研究。当构成产品的核心技术组件发生了“十倍速”以上的提升，往往会重新定义整个产品，并引发行业的重构。摩尔定律推动下的微处理器进步，操作系统的图形界面化，以及互联网的兴起后，PC最早成为上网的第一终端，都是曾经推动PC产品创新与产业发展的十倍速因素。 AIPC不再是个人电脑行业长期习惯的延续性的创新，而且是一次颠覆式的创新。用户对于AI体验的期待已经被点燃，大模型正在部署到PC上并且成为核心技术和系统组件。PC厂商提供的功能从原先的绰绰有余，立刻变成了无法满足用户最新的需求。在AIPC推向市场的阶段，需要深度整合的能力重构出新的产品，向用户提供新的功能，并创造新的体验。从软硬件一体化的整合，到操作系统与大模型和软件的整合，直到向用户交付一体化的个人AI体验，设计新的商业模式，整机厂商都会扮演主导的角色。 本报告基于AIPC的完整定义，探讨了整机厂商如何集成大量出现的AI新技术，在创造AIPC过程中所发挥的决定性的整合作用。报告认为：个人AI开始主导个人电脑的用户体验，通用人工智能正在向终端设备大规模部署，个人电脑成为首选终端，并将在新的换机周期中，率先实现在主流用户人群中的大规模替代。整机厂商以其独有的行业生态整合能力，建立起AIOS交互界面，组织起开发者生态，并且在雄厚用户基础上迅速建立起产品反馈和迭代的完善机制，构建出用户体验。长期来看，个人AI计算平台也为整机厂商开启了系统技术进步、产品差异化、以及商业模式的价值空间。 1983年初，《时代》周刊的年度人物，史上唯一让位于计算机。这个旨在推出当年“新闻制造者” （Newsmaker）的报道，封面故事的标题是：年度机器，计算机来了。当时PC刚开始大规模进入办公室和家庭，却已经开始改变世界。 半个世纪后，2024年，我们正在迎来又一个“年度机器”：AIPC。 2 第理一解章AIPC 生与成个式人化AI发大展模，型并是且一装项入通P用C技，术交，付其给通用用户能。力正在向小型化 新型人机关系正在建立 1.1新型人机关系正在建立 AI正在重新定义人机关系。微处理器、图形界面、操作系统、互联网等技术，已经在 PC发展的历史上树起了丰碑。比这一切更为根本的，是关于人类与计算机交互的理念。计算机与人类便捷地互动、“大脑与机算机密切合作”、“个人能控制信息及信息系统”，所有这些想法，早在个人电脑发明之前就已经出现，并且深刻地影响了最初一代的计算机科学家、工程师和创业者。当时创立的两家PC硬件和软件企业，苹果与微软，至今仍然是全球市值最大的公司，也成为科技公司的标杆。 目前，AI让PC再一次面临这样的机会，再一次成为新型计算的“第一终端”。正如当年微处理器装进了计算机，产生了PC，之后摩尔定律推动PC日益强大，并从桌面走向移动化；大模型也正在被装入PC这一人类已经驾轻就熟的必备工具中。日益强大并小型化的通用模型部署到终端设备上，交付了个人AI，正在重构PC产品与行业。 说明：本地AI算力指CPU+NPU+GPU的AI整体算力，并非仅NPU提供的算力。 4 智能体 多模态大模型 >70亿参数 AIOS 个人知识 本地算力 >40TOPS 问我做任何事： 云端模型 应用商店 AIPC：个人AI时代的计算平台 新型人机关系正在建立 正如当年的操作系统，把快速变化的技术和复杂的软硬件设置，“捆绑”在一个图形界面的平台上，让用户可以用鼠标和键盘直观便捷地操作；大模型进一步提升了人机交互的体验，用户能通过以自然语言为主的、更加自然的方式与电脑交互，让人类智能与机器智能的协作更加紧密，正在创造一种全新的用户体验。 新型的人机关系正在发生。它首先体现于下一代个人计算机AIPC，具备了如下五大特征： 1.自然语言交互的个人智能体：多模态与伴随态自然语言交互UI；基于本地大模型的意图理解与任务调度； 2.内嵌个人大模型：能够运行压缩和性能优化的本地大模型，辅之以边缘与云端大模型；覆盖用户全生命周期数据的本地个人知识库； 3.标配本地混合AI算力：CPU+NPU+GPU本地混合计算架构；个人终端和家庭主机/ 企业边缘主机协同计算； 4.开放的应用生态：个人智能体与本地大模型接口开放，接入第三方AI应用，可被智能体调度；为AI应用开发者提供高效、便捷、低成本的混合AI算力开发与适配平台； 5.设备级个人数据&隐私安全保护：本地隐私推理&非敏感任务调用云端大模型；硬件级安全芯片保护&个人数据加密/脱敏传输。 大模型在知识和创意工作领域中具备通用技术潜力，首先需要借助PC来实现。开发者写代码编程、创意者生成内容、企业服务其客户，都已经在PC上离不开AI这一工具。而大模型的应用领域不断加深和拓宽，在金融、教育、娱乐、工程、设计、研发、科学智能等领域，也都需要借助于PC来实现。大模型卷起了一场白领工业革命，它在工作场所与人类协作，承担越来越多的任务；它逐步深入到工作流程中，不断提升工作效率，机器人与组织人的合作日益密切。AIPC，服务于知识工作者，也将造就新一代的AI知识工作者。 5 在PC上部署完整的个人AI 1.2在PC上部署完整的个人AI 大模型的研发探索，基础设施的发展，持续获得了大量的投资。与此同时，大模型正在进入商业应用阶段。大模型技术的规模化伴随着产品的小型化和个人化。大模型的部署，正在从云端向边缘和终端设备下沉扩散，而且这一次向个人转移的速度会更快。 从ChatGPT推出一年以来，大模型的技术成熟度正在迅速提升，技术生态也在形成，满足了向PC规模部署的技术要求。训练成本已经下降了五倍，压缩和微调技术日益完善。开源模型生态活跃，小参数量的大模型如雨后春笋般出现，为各种终端设备提供了多样化的选择；芯片架构的神经网络计算能力越来越强，可以本地运行的模型最大已经超过百亿参数；大模型的微调、适配、开发平台建立起来，在设备上部署大模型变得更加容易；AI智能体能分解和规划任务，并且调用其他应用完成任务的能力也在迅速提升；检索增强生成技术，让大模型能更好学习和利用所在设备的本地知识和数据，提升推理的准确性。 大模型需要实现商业模式的载体，目前主要是PC。在训练阶段昂贵的成本，需要在推理阶段大规模的应用中摊销，主要设备整机厂商的庞大用户群，是大模型应用走向规模化的最重要市场。随着推理从文本到图像和视频，多模态推理的使用量将会指数级增长，而推理的用量越大，用户对于算力价格就会越敏感。只有让推理尽可能在本地完成，形成结合云端的算力，用户才能获得最优性价比。整机厂商能结合供需双方，构建一个混合计算架构。 当大模型在本地部署时，需要PC这样的设备，足以容纳完整而又最小可行的通用推理能力：生成从文字到多模态内容、构建AI智能体、进行本地数据和知识的检索增加生成、以及能为开发者提供协作服务。这些对于设备的芯片性能、模型尺寸、内存大小，都提出一定的要求。而PC正好提供了所需的算力平台及综合性能。整机厂商规模推出本地部署模型的条件已经就绪。 整机厂商正在塑造个人AI的形态。AIPC，正是新兴的个人AI与成熟的PC相结合的产物。 6 1.3AI用户体验决定下一代PC AI用户体验决定下一代PC 生成式AI大模型应用，正在改变用户体验，这一进程才刚刚开始。在技术和功能的组合之上，最终是用户对个人AI的体验，才能决定AIPC大规模进入市场，迎来一个新的PC时代。AIPC的用户体验，包括以下六个方面： AIPC的用户体验 隐私 隐私保护+数据安全 实时本地推理低延迟 准确 本地数据+专属知识 性价比混合算力架构 自然交互 自然语言等 经典交互键盘鼠标，专业精确 此外，还有一些AIPC所带来的独有的体验。如再个人化的人机关系、生产消费者 （prosumer）、本地推理降低能耗所带来的可持续感，等等，这些要素共同构成了个人AI伴侣的体验（PersonalAITwin）。 大模型正处于下一代终端设备用户体验的核心，它改变了终端设备的算力平台，改变了人机交互的操作系统，也改变了软件的生产方式及其所产生的应用。这是一种更深的人机交互，它是人与机器共同学习、演化智能个人AI体验。 PC是个人计算设备中拥有最强性能的通用计算平台，能够把大模型的能力完整地嵌入本地，并且随着神经网络计算功能的强化，能把最先进的大模型及时部署落地。在日益数字化与智能化的丰富场景中，PC是通用生产力平台，它在产品的稳定性以及通用AI的先进性方面，做到了完美的结合。个人AI将覆盖多种终端，包括正在出世的AI原生硬件，但PC将是第一个终端，是个人AI的典型形态。 在这一变革的过程中，创造个人AI的新体验，PC整机厂商发挥了关键的作用。 7 用户体验 第整二机章厂商构建个人AI P它C已是经第是三一次种技成术熟革的命行的业核，心基技本术上，由也软是件最、重硬要件的和生整产机力厂工商具为。主构导的。机人会工。智整能机大厂模商型在的充兴分起释，放为端侧PC大带模来型产的品性革能命方与面行处业于重最佳在位交置付，用把户新体兴验的中发AI挥技主术导封作装用为。相对简单易用的设备产品， 2.1异构算力的本地推理引擎 大模型在云端展开算力军备竞赛的同时，设备端的个人计算平台正在发生一场革命。CPU+GPU+NPU的异构组合，灵活地为第一终端提供了个人AI体验的算力。芯片厂商正在竞速突破40TOPS的算力门槛，这是本地个人大模型部署的理想基准，AIPC即将跨越AIReady阶段。作为算力的最终交付者，整机厂商正在通过构建中间层，调优固件与软件，同步升级关键组件的方式，提供完整的本地推理引擎的解决方案。 围绕NPU的异构算力 PC是个人AI的第一终端。与智能手机、可穿戴设备、汽车与智能家居相比，它的应用场景更为通用泛化，交互方式更为多模态，同时兼顾了算力与便携。 AIPC的神经网络算力，构筑在CPU+GPU+NPU之上。这是承载AI本地部署、端侧推理的异构算力基础设施。CPU（中央处理单元）与GPU（图形处理单元）都可以处理AI加速，但它们同时各自承担了通用计算，或图形与并行计算等任务；NPU（神经网络处理单元）专门针对神经网络工作负载进行了优化，越来越成为AIPC的标配。 行业正在探索灵活多样的异构算力组合。芯片提供商集成了NPU的CPU已经陆续推向市场，部分还集成了GPU。加速处理特定图形任务，还需要独立GPU的强大算力。未来本地AI应用的繁荣，也将催生独立NPU的机会，以及更多专业的处理单元的创新。终端设备还可以通过外接设备，扩展本地大模型的能力。 GPU NPU iGPU 终端 iNPU CPU SoC AIPC的异构AI算力 外接AI加速卡 （NPU） 外接AI主机 （