2023混合AI是AI的未来白皮书（第一部分）

1 混合AI是AI的未来 2023年5月 第一部分： 终端侧AI和混合AI 开启生成式AI的未来 2 目录 1 摘要 ............................................................................................................................. 3 2 生成式AI简介和 当前趋势 ............................................................................................ 4 3 混合AI对生成式AI规模化扩展至关重要 ..................................................................... 5 3.1 什么是混 合AI？ ................................................................................................................................... 6 3.2 混合AI的优势 ...................................................................................................................................... 6 3.2.1 成本 ...................................................................................................................................................... 6 3.2.2 能耗 ...................................................................................................................................................... 6 3.2.3 可靠性、性能和时延 ...................................................................................................................... 7 3.2.4 隐私和安全......................................................................................................................................... 7 3.2.5 个性化 .................................................................................................................................................. 7 3.3 AI工作负载的分布式处理机制 .......................................................................................................8 3.3.1 以终端为中心的混合AI .................................................................................................................8 3.3.2 基于终端感知的混合AI ................................................................................................................. 9 3.3.3 终端与云端协同处理的混合AI ................................................................................................. 10 4 终端侧AI的演进 与生成式AI的需求密切相关 .............................................................. 11 4.1 终端侧处理能够支持多样化的生成式AI模型 ...........................................................................11 5 跨终端品类的生成式AI关键用例 ................................................................................12 5.1 智能手机：搜索和数字助手 ........................................................................................................... 12 5.2 笔记本电脑和PC：生产力 ............................................................................................................. 13 5.3 汽车：数字助手和自动驾驶 ........................................................................................................... 13 5.4 XR：3D内容创作和沉浸式体验 .................................................................................................. 14 5.5 物联网：运营效率和客户支持 ...................................................................................................... 16 6 总结 .............................................................................................................................17 3 1 摘要 混合AI是AI的未来。随着生成式AI正以前所未有的速度发展1以及计算需求的日益增长2，AI处理必须分布在云端和终端进行，才能实现AI的规模化扩展并发挥其最大潜能——正如传统计算从大型主机和瘦客户端演变为当前云端和边缘终端相结合的模式。与仅在云端进行处理不同，混合AI架构在云端和边缘终端之间分配并协调AI工作负载。云端和边缘终端如智能手机、汽车、个人电脑和物联网终端协同工作，能够实现更强大、更高效且高度优化的AI。 节省成本是主要推动因素。举例来说，据估计，每一次基于生成式AI的网络 搜索查询（query），其成本是 传统搜索的10倍3，而这只是众多生成式AI的应用之一。混合AI将支持生成式AI开发者和提供商利用边缘终端的计算能力降低成本。混合AI架构或终端侧AI能够在全球范围带来高性能、个性化、隐私和安全等优势。 混合AI架构可以根据模型和查询需求的复杂度等因素，选择不同方式在云端和终端侧之间分配处理负载。例如，如果模型大小、提示（prompt）和生成长度小于某个限定值，并且能够提供可接受的精确度，推理即可完全在终端侧进行。如果是更复杂的任务，模型则可以跨云端和终端运行。混合AI还能支持模型在终端侧和云端同时运行，也就是在终端侧运行轻量版模型时，在云端并行处理完整模型的多个标记（token），并在需要时更正终端侧的处理结果。 随着强大的生成式AI模型不断缩小，以及终端侧处理能力的持续提升，混合AI的潜力将会进一步增长。参数超过10亿的AI模型已经能够在手机上运行，且性能和精确度水平达到与云端相似的水平。不久的将来，拥有100亿或更高参数的模型将能够在终端上运行。 混合AI方式适用于几乎所有生成式AI应用和终端领域，包括手机、笔记本电脑、XR头显、汽车和物联网。这一方式对推动生成式AI规模化扩展，满足全球企业与消费者需求至关重要。 1 https://www.statista.com/chart/29174/time-to-one-million-users/ 2 https://siliconangle.com/2023/02/05/generative-ai-drives-explosion-compute-looming-need-sustainable-ai/ 3 https://www.reuters.com/technology/tech-giants-ai-like-bing-bard-poses-billion-dollar-search-problem-2023-02-22/ 4 2 生成式AI简介和 当前趋势 ChatGPT激发了人们的想象力和好奇心。自2022年11月推出后，短短两个月内其月活用户便达到1亿，成为有史以来增长速度最快的消费类应用和第一个杀手级的生成式AI应用。随着创新节奏的加快，想要紧跟生成式AI的发展速度，难度越来越大。大型聚合网站的数据显示，目前已有超过3,000个可用的生成式AI应用和特性4。AI正迎来大爆发时期，就像此前电视、互联网和智能手机的问世，而这仅仅是一个开始。 ChatGPT和Stable Diffusion等生成式AI模型能够基于简单的提示创作出全新的原创内容，如文本、图像、视频、音频或其他数据。这类模型正在颠覆传统的搜索、内容创作和推荐系统的方法——通过从普通产业到创意产业的跨行业用例，在实用性、生产力和娱乐性方面带来显著增强。建筑师和艺术家可以探索新思路，工程师可以更高效地编写程序。几乎所有与文字、图像、视频和自动化相关的工作领域都将受益。 网络搜索是生成式AI正在变革的诸多应用之一。另一个例子则是Microsoft 365 Copilot，作为一项全新的 生产力特性，它能够利用生成式AI帮助编写和总结文档、分析数据，或将简单的书面想法转化为演示文稿，嵌入于Word、Excel、PowerPoint、Outlook和Teams等微软应用中。 生成式AI的出现也标志着用户开始向探索更加多样化、个性化的数字世界迈出了第一步。由于3D设计师可以借助生成式AI工具更加快速高效地进行内容 开发，3D内容创作有望得到普及。这不仅将加速沉浸式虚拟体验的创建 ，而且能够降低个人创作者自主内容制作的门槛。 我们即将看到从生成式AI中涌现出各种各样的全新企业级和消费级用例，带来超越想象的功能。GPT-4和LaMDA等通用大语言模型（LLM）作为 基础模型，所具备的语言理解、生成能力和知识范畴已 达到了前所未有的水平。这些模型大多数都非常庞大，参数超过1千亿，并 通过API向客户提供免费