2024年中国端侧AI场景应用分析：智能终端与边缘计算的融合创新

团队介绍 头豹是国内领先的行企研究原创内容平台和创新的数字化研究服务提供商。头豹在中国已布局3大研究院，拥有近百名资深分析师，头豹科创网(www.leadleo.com)拥有20万+注册用户，6,000+行业赛道覆盖及相关研究报告产出。 头豹打造了一系列产品及解决方案，包括数据库服务、行企研报服务、微估值及微尽调自动化产品、财务顾问服务、PR及IR服务，研究课程，以及分析师培训等。诚挚欢迎各界精英与头豹交流合作，请即通过邮件或来电咨询。 报告作者 袁栩聪 首席分析师 oliver.yuan@Leadleo.com 饶立杰 行业分析师 arjen.rao@Leadleo.com 头豹研究院 咨询/合作 网址：www.leadleo.com 电话：13080197867（李先生）电话：15999806788（袁先生）深圳市华润置地大厦E座4105室 研究报告| 2024/05 中国端侧AI 摘要 中国端侧AI行业现状如何？ 端侧AI，是人工智能应用的一种实现方式，侧重于将AI的能力下沉到设备端，减少对云服务的依赖，从而实现更快的响应速度、更好的隐私保护和更低的网络需求。2023年中国端侧AI市场规模为1,939亿元，预计2028年其市场规模将为19,071亿元，年均复合增长率为58%。技术进步和边缘计算的出现是端侧AI行业发展的驱动因素，未来端侧AI将与云侧AI结合为混合式AI一同使用，采用混合式AI，可在全球范围内实现成本效益、能效、性能提升、隐私保护、安全性增强和个性化服务。 目前，中国主流科技企业纷纷在端侧AI领域加大投入并取得显著成果，特别是在移动端和操作系统层面上的AI集成与创新。同时海外科技企业推动端侧AI技术的集成和应用更广泛。同时，端侧大模型是端侧AI中游厂商实现落地应用的关键因素之一，众多端侧AI中游厂商选择自研端侧大模型。 中国端侧AI市场规模如何？ 2023年中国端侧AI市场规模为1,939亿元，从2018至2023年，其年均复合增长率为116.3%。 在2023年之前，端侧AI技术已在多个领域落地应用，其中智能安防和智能车载设备是两个重要的应用领域。AI手机和AIPC开始兴起，两者庞大的市场需求将在未来支撑端侧AI行业迅速发展。预计2028年，中国端侧AI市场规模将为19,071亿元，年均复合增长率为58%。 中国端侧AI发展如何？ 混合式AI是指，终端设备和云端服务器相互协作，根据具体场景和时间，合理分配AI计算任务，以提供更优的用户体验，并高效利用计算资源。在特定应用场景中，计算任务主要在终端设备上执行，仅在需要时才将部分任务迁移到云端处理。而在以云端为核心的场景中，终端设备会根据自己的计算能力，在条件允许的情况下分担部分AI计算任务。 Chapter 1 中国端侧AI行业综述 端侧AI定义及分类行业发展历程市场规模测算 中国端侧AI行业综述——端侧AI定义及分类 端侧AI侧重于将AI的能力下沉到设备端，并涵盖AI驱动系统融合、AI重塑操作系统、端侧AI应用、AI端云协同四层应用，按照模型训练方向的分类方式，端侧AI可以分为5大类 端侧AI行业定义与分类 端侧AI，是人工智能应用的一种实现方式，侧重于将AI的能力下沉到设备端，减少对云服务的依赖，从而实现更快的响应速度、更好的隐私保护和更低的网络需求。 与云端大模型相比，端侧AI更强调本地化运行，以满足用户对隐私的需求和个性化的任务需求。值得关注的是，端侧AI行业的应用范围广泛，包括但不限于个人电脑（PC）、智能手机等设备。 目前，端侧AI涵盖四层应用：①AI驱动系统融合，实现多设备间无缝衔接与数据共享；②AI重塑操作系统，通过意图识别优化人机互动，提升用户体验；③端侧AI应用，涵盖图像处理、文档摘要等实用功能；④AI端云协同，结合云端大模型，拓展AI应用场景边界。 按照模型训练方向的分类方式，端侧AI行业可以分为5大类，包括自然语言处理端侧AI、计算机视觉端侧AI、智能语音端侧AI、全模态处理端侧AI以及科学计算端侧AI。 自然语言处理端侧AI 在自然语言处理（NLP）领域的应用意味着用户的语音或文本命令可以直接在用户的设备上被处理和理解，而不是上传到云端处理。目前，许多科技公司都在研发专门针对端侧的NLP解决方案，例如轻量级的NLP模型、边缘计算平台以及优化的运行时环境。 计算机视觉端侧AI 在本地设备上处理和分析图像及视频数据，以实现识别、分类、追踪、场景理解等多种视觉任务。与自然语言处理的端侧AI相似，计算机视觉端侧AI也旨在提升隐私性、降低延迟、支持离线操作并优化资源使用。 智能语音端侧AI 在本地设备上处理语音识别、语音合成、自然语言理解和语音交互等任务的技术。该技术的发展使得智能设备能在不依赖网络连接的情况下，实现快速、高效且保护隐私的语音控制和交互。 全模态处理端侧AI 在边缘设备上同时处理和融合多种类型的数据模态（如文本、语音、图像、视频等）的人工智能技术。该综合处理方式旨在通过跨模态信息的整合，提高决策的准确性和上下文理解能力，为用户提供更为丰富和自然的交互体验。 科学计算端侧AI 在科研、工程设计、数据分析等专业领域，利用部署在本地设备上的人工智能算法来加速计算过程、优化模型预测或执行复杂数据分析的任务。与通用的端侧AI相比，科学计算端侧AI更加侧重于处理大规模数据集、执行复杂的数学运算、模拟物理过程或解决特定领域的科学问题。 中国端侧AI行业综述——行业发展历程 中国端侧AI行业经历三个阶段，分别为起步探索阶段、技术研发与初步落地阶段和应用快速拓展阶段 中国端侧AI发展历程 2016-2017年 2023年至今 2023年8月，华为在HarmonyOS4系统中集成盘古大模型，为用户提供更智能的设备互动。 2016年，阿里云开始研发端侧AI能力。 2017年，阿里云计划并探索端侧AI的研发方向。 2023年8月，小米开源自研的MiLM端侧大模型，该模型包含13亿参数。 2018-2022年 2023年10月，英特尔宣布将发布AI PC的英特尔酷睿Ultra处理器Meteor Lake。 2018年5月，寒武纪发布 1M 终端智能处理器IP产品。 2023年11月，OPPO采用端云协同设计构建Andes GPT模型。 2018年10月，华为推出Atlas智能计算平台，旨在构建一个全面覆盖端、边、云环境的AI基础设施解决方案。 2023年11月，VIVO推出自研AI蓝心大模型，该模型可支持超过700项手机功能，并包含70亿模型参数量。 截至2019年初，阿里集团多数移动应用程序已融入端侧AI技术，其中超20款App采用MNN推理引擎。 2024年1月，荣耀的MagicOS8.0将应用首个端侧平台级AI大模型一魔法大模型。 2024年5月，苹果和OpenAI将在6月10日的WWDC上联合宣布将OpenAI的AI技术引入iOS 18。 2022年，天玑9200发布，其AI性能提升35%。 2024年5月，微软推出全新Windows PC品类—Windows 11 AI PC。 中国端侧AI行业经历三个阶段：起步探索阶段、技术研发与初步落地阶段和应用快速拓展阶段。 起步探索阶段：2016-2017年，中国逐渐进入端侧AI领域，且互联网巨头企业率先发力。这标志着中国正式开启端侧AI领域的探索之旅。 技术研发与初步落地阶段：2018-2022年，中国端侧AI行业在本土创新企业的推动下迅速启动，核心芯片研发、计算平台建设、广泛应用实践及性能持续升级。 应用快速拓展阶段：2023年至今，中国主流科技企业纷纷在端侧AI领域加大投入并取得显著成果，特别是在移动端和操作系统层面上的AI集成与创新。同时海外科技企业推动端侧AI技术的集成和应用更广泛。 中国端侧AI行业综述——市场规模测算 2023年中国端侧AI市场规模为1,939亿元，预计2028年其市场规模将为19,071亿元，年均复合增长率为58%，端侧AI已大规模用于智能安防和智能车载设备，未来AI手机和AIPC将成为主要增长因素 中国端侧AI行业市场规模，2018-2028E 2023年中国端侧AI市场规模为1,939亿元，从2018至2023年，其年均复合增长率为116.3%。 在2023年之前，端侧AI技术已在多个领域落地应用，其中智能安防和智能车载设备是两个重要的应用领域。端侧AI在智能安防领域的应用包括视频监控分析、面部识别、异常行为检测等，以上技术能够实时分析监控数据，提高安防系统的响应速度和准确性，从而增强公共安全。在智能交通和自动驾驶领域，端侧AI技术被用于车辆的环境感知、决策制定和实时控制，包括车道保持辅助、碰撞预警、自动泊车等智能功能，旨在提升驾驶安全和车辆的自动化水平。 值得关注的是，自2023年起，AI手机和AI PC开始兴起，两者庞大的市场需求将在未来支撑端侧AI行业迅速发展。其中AI手机通过集成NPU或AI加速器，能实现更快的图像处理、语音识别和自然语言处理等功能，进而提供更加丰富的智能服务，如智能助手、实时翻译、健康监测等，极大地提升用户体验。而AI PC利用AI技术为用户提供强大的计算能力和智能功能，特别是在创意工作、游戏、教育和企业级应用中。例如，AIPC能通过学习用户的行为模式，优化性能，提供个性化的软件和服务。同时，端侧AI的应用将不断拓展到新的领域，如智能家居、健康医疗、工业自动化等。预计2028年，中国端侧AI市场规模将为19,071亿元，年均复合增长率为58%。 Chapter 2 中国端侧AI行业产业链分析 产业图谱及说明上游产业链分析中游产业链分析下游产业链分析 中国端侧AI行业产业链分析——产业图谱 中国端侧AI行业的上游产业链为核心技术和硬件提供商，中游产业链为端侧AI系统集成与软件平台开发商，下游产业链为应用领域与服务 端侧AI产业图谱 核心技术和硬件提供商 中游 具备端侧AI技术的专业能力，包括模型优化、硬件适配和系统集成等，提供从底层硬件到上层应用的一体化解决方案，实现端侧AI的系统集成 适应端侧设备的计算能力和存储限制，提供轻量化的AI模型 应用领域与服务 行业解决方案 产品与软件服务 下游 利用端侧AI技术，为特定行业或应用场景提供定制化的解决方案，以满足不同客户的需求 需利用AI技术来提升产品的智能化水平，增强用户体验，提高运营效率，开发新的业务模式 中国端侧AI行业产业链分析——上游产业链分析 2022年中国通用算力和智能算力分别达137EFLOPS和41EFLOPS，分别占全球比重27%和39%，MindSpore在中国自主研发的AI框架中活跃度最高，且未来NPU将在端侧AI领域广泛应用 中国端侧AI上游产业链分析 伴随着人工智能、大数据、云计算等前沿技术的迅速发展，算力作为技术基石，其需求呈爆发式增长。2022年中国通用算力和智能算力分别达137EFLOPS和41EFLOPS，分别同比增长25.7%和41.4%。 美国、中国、欧洲、日本在全球算力规模中的份额分别为34%、33%、17%和4%。其中，在基础算力方面，中国以27%份额的排名第二；在智能算力方面，中国以39%的份额排名第一。 在选择AI框架时，开发者最重视的因素是框架的易用性，其中有40%的开发者将其列为首要考量，其次性能为第二位选择依据。值得关注的是，目前在中国自主研发的AI框架中，华为的昇思（MindSpore）展现出最高的活跃度。 各类AI芯片对比 中国AI服务器市场规模，2023-2027E单位：亿美元 指标 CPU GPU NPU FPGA +10.2%111 134 122 定制化程度 通用型 通用型 定制化 半定制化 完整版登录www.leadleo.com 100 91 功耗 中 高 低 低 搜索《2024