2024生成式AI白皮书：五大关键要素解锁生成式AI全新机遇

五大关键要素 解锁生成式AI全新机遇 执行概要 从基础模型到落地的生成式AI应用，需要经过模型训练、模型定制、模型部署、模型推理等环节。各个环节上的行业参与者均面临着不同程度的基础设施、数据集成、应用场景选择、安全与隐私以及负责任AI方面的挑战： 大模型提供商在训练基础模型的过程中，数据准备工作复杂而耗时，训练基础设施的管理与优化有较高的门槛，且算力成本高昂。对于生成式AI应用开发者而言，需要为应用场景选择最为适配的模型，也需要集成来自不同存储库、不同格式的数据，还需要保障用户数据隐私、模型安全以及生成内容的安全。对于生成式AI应用使用方而言，识别应用场景、利用自有数据与大模型进行交互的过程中如何保证数据安全，如何确保模型生成内容所问即所答，都是其挑战所在。 整体来看，能够帮助生成式AI新生态里的产业参与者加速生成式AI应用落地的解决方案，必须具备五大要素： 高性价比的基础设施、丰富而灵活的模型选择、使用私有数据实现差异化定制、开箱即用的生成式AI驱动的应用和负责任的AI。关于部署方式，现阶段用户更倾向于从云端开始部署：一方面大模型尚处于早期，模型能力不断突破，云服务能够助力用户快速使用到最新的模型能力；另一方面，使用云服务也可以助力用户降低基础设施搭建与运维的时间成本，因此云服务商成为各类玩家构建和部署生成式AI应用的首选合作伙伴。 开启云上生成式AI之旅： 有必要尽快将生成式AI融入企业级战略，确定是自建模型还是使用模型定制功能来发挥企业的差异化优势。在参考外部诸如提高生产力、增强用户体验以及优化业务流程成功实践的同时，筛选确定自身应用场景。端到端构建生成式AI应用，则从为应用场景选择模型开始，参考当前的成功实践，选择适当的模型定制路线进行模型的适配与调整，将经过评估验证的模型集成到企业应用系统，并设立评估指标，对应用进行持续迭代。 亚马逊云科技助力释放生成式AI潜力： 亚马逊云科技致力于不断降低机器学习使用门槛，面向生成式AI，公司提供丰富的算力选择与高效的加速训练与推理；在海外区域推出AmazonBedrock助力轻松构建并规模化生成式AI应用，以及企业级生成式AI助手AmazonQ；高度重视为用户提供负责任的AI策略支持。此外，公司也在持续建设端到端的数据基座，以支持生成式AI的数据集成需求。至今，超过�万家客户利用亚马逊云科技AmazonBedrock进行生成式AI创新。 CONTENTS 生成式AI应用：热度高、落地慢 �� 1.1近六成企业开始拥抱生成式AI 02 1.2生成式AI落地不及预期 03 构建生成式AI应用的现实挑战 �� 2.1生成式AI三类主要参与者 0� 2.2数据准备耗时，训练成本高昂 0� 2.3数据集成复杂，模型适配难，安全要求高 0� 2.4应用场景筛选难，数据隐私安全顾虑，缺乏成功部署实践 11 云服务助力构建生成式AI应用 �� 3.1落地生成式AI应用的五大关键要素 1� 3.2具备成本效益和领先AI应用的云服务加速构建生成式AI 1� 01 02 03 从云端开始构建生成式AI �� 4.1制定融入生成式AI的人工智能战略 20 4.2规划生成式AI应用场景 22 4.3端到端构建生成式AI应用 37 亚马逊云科技助力企业解锁生成式AI潜力 �� 5.1高性价比且丰富的基础设施加速训练与推理 43 5.2丰富的模型可选，可基于私有数据差异化定制 44 5.3生成式AI驱动的应用程序 47 5.4亚马逊云科技注重负责任的AI 50 5.5端到端数据基座打通壁垒，让所有应用可治理、可管控 51 04 05 第一章 生成式AI应用：热度高、落地慢 随着生成式AI应用快速进入市场，以及越来越多大模型的不断面世，2023年已经成为生成式AI的元年：不同区域、各行各业、不同领域的人们开始尝试在工作和生活中使用生成式AI，以探索各种可能性。于企业而言，生成式AI也已经成为从董事会到基层员工都在探讨热议的话题，一些领先的企业甚至已经利用生成式AI技术实现了业绩增长。 01 1.1近六成企业开始拥抱生成式AI 在2023年第四季度的生成式AI用户调研中，IDC发现，已经有近六成的企业开始拥抱生成式AI，超过三成企业开始制定潜在应用场景，仅有7%的企业还没有任何举措。 24%的企业表示已经投资生成式AI，并且有相应的预算计划。这些预算可能来自 2023年已有的规划，也有些是针对生成式AI新增的预算。 35%的企业表示已经做了一些初步的测试与概念验证，但还没有明确的投资计划。 34%的企业表示正在制定潜在应用场景，但还没有进入试点阶段。仅有7%的企业表示目前还没有任何举措。 图1贵组织目前评估或者使用生成式AI的进度如何？ 我们对生成式AI进行初步测试，但没有固定的支出计划 35.0% 我们正在制定一份潜在用例列表，但尚未开始试点 34.0% 我们已经投资了生成式AI且有明确预算 24.0% 我们还没有做任何举措 7.0% 0.0%5.0%10.0%15.0%20.0%25.0%30.0%35.0%40.0% 来源:IDC2023,N=100 02 03 1.2生成式AI落地不及预期 在已经开始尝试生成式AI的企业中，应用场景遍及企业各个业务流程，包括客户服务类应用、支持运营决策类应用、提高员工生产力的应用、辅助产品设计的应用、支持营销的应用等。其中，高管最为关注且最希望从中获取价值的前三大应用为：智能客服类应用、支持财务和运营决策的应用以及专注于提升员工生产力的应用。在实际探索中，预计能优先落地的场景主要是生成式AI支持数字化营销领域的应用，支持财务、运营决策类的应用，以及智能客服类应用。 在落地时间方面，五成以上的企业认为各个领域的应用落地时间都需要在13个月以上，这远远长于企业期望的�个月的时间。 在应用范围方面，即使已经上线的应用，范围也都比较局限，以单点应用为主，如基于大模型升级的智能客服；当前，单个项目的应用可能也就局限于小部分客户群体或者不足百路的坐席中。 综合来看，模型生成结果的准确性、人才技能稀缺、部署的成本等，都影响了生成式AI的规模化落地。深入探索企业生成式AI的实践，发掘落地前、中、后的全链路问题，让企业能够理性选择技术方案、大胆尝试应用场景，才能真正实现以生成式AI带来差异化竞争优势。 图2企业高管最关注的生成式AI应用以及预计落地时间 集成生成式AI的热门领域 专注在以客户为中心的应用 40% 专注于财务/运营决策支持应用 31% 专注于员工应用（技能/培训） 31% 专注于数字营销工具 2�% 专注于应用开发工具 2G% 专注于PLM以及产品设计应用 23% 专注于RFP/合同流程应用 21% 热门领域生成式AI应用预计落地时间 13.1� 12.�� 12.�1 �% 7% 10% 44% 41% 40% 24% 24% 23% 7% 1G% 7% 11% 19% 15% 专注在面向客户的应用专注于财务/运营应用专注在数字营销应用 已经开始整合 1�个月以上 小于G个月 平均时间（月） G到12个月 13到1�个月 来源:IDC全球生成式AI调研，N=13G3 科技行业正处于开创性时刻，生成式AI使预测变得更加容易，甚至可能更加普惠、价格更加亲民。企业将把生成式AI应用到更多全新的领域，带来众多商业模式和竞争战略的改变。IDC预计，生成式AI将在未来10年内为全球GDP增加近10万亿美元。然而，高关注度、高预期并没有带来相应的落地进展。厘清生成式AI应用落地的路径，寻找能够加速应用落地的解决方案，是行业参与者的当务之急。 04 第二章 构建生成式AI应用的现实挑战 相比上一代AI，生成式AI应用的开发需要重新在各种大模型之间进行选型适配，对于用于模型训练的数据的安全性要求更高，在模型定制环节的工作有更加多样性的选择，也因此形成了全新的生成式AI应用产业生态。而生态上的所有参与者，今天也面临着诸如数据、算力、成本、模型适配、安全隐私等挑战。 05 2.1生成式AI三类主要参与者 图3大模型驱动的生成式AI价值链 生成式AI应用使用方 生成式AI应用开发者 基于大模型的生成式AI应用 基础模型提供商 从0到1构建基础模型 来源：IDC，2023 检索增强生成（RAG） 提示词工程（PromptEngineering） 对基础模型使用自有或行业数据集进行微调 从基础模型到集成到企业系统中的生成式AI应用，简单说就是对基础模型进行定制、调整，再进行推理的过程。其中，基础模型的训练，对于数据、算力以及技能、人才的要求都很高，因此只有少部分企业专注于模型的训练，即模型提供商。更多的企业选择依托基础模型，使用自有数据进行调优、采用提示词工程（PromptEngineering）的方法，以提升模型生成内容的准确性；或者使用检索增强生成（下文简称：RAG）的方法以充分利用企业自有知识使模型更好地理解上下文的语境，给出更相关的答案⸺这两类群体为生成式AI应用开发者。行业应用解决方案商则是将生成式AI应用集成到现有的系统中，开发出AI赋能的行业应用；大部分行业用户也更倾向于采用融入生成式AI能力的行业应用，来实现智能化升级。 通用 制造行业 互联网行业 生命科学/医疗 出海场景 更多 生成式AI应用 生成式AI应用 生成式AI应用 生成式AI应用 生成式AI应用 生成式AI应用 生成式AI驱动的数字人 产品设计 生成式AI辅助NPC设计 新药研发 机器翻译 ...... 智能客服 供应链管理 智能推荐 临床决策助手 智能推荐 ...... AI辅助代码设计 质量控制自动化 自适应教育 AI辅助诊断 AI生成内容 知识管理 预测性维护 AI辅助艺术设计 ...... 对话式AI ...... ...... ...... ...... 大模型提供商⸺基础模型训练 大模型提供商从零开始构建基础模型，参数量达到百万、千万甚至亿级别，典型厂商如Anthropic、Al21Labs、Meta、cohere、OpenAI、Stability.ai、智谱华章、百川智能等。当前阶段，通常只有科技巨头、头部创企才有能力自主进行大模型训练，这些大模型也是生成式AI应用创新的重要源头。从模型的供给侧来看，随着大模型提供商的逐渐发展和壮大，参数量的不断增加，这些模型应用到生产环境中的准确性也相应的越来越高，过去不可能达到的预测准确度也开始成为可能。 生成式AI应用开发者 从基础模型得到最终应用，需要将特定领域数据引入基础模型进行再次训练/调优，才能获得理想的效果。如前所述，当下有三种方式可以实现模型的定制：调优，提示词工程，检索增强生成（RAG）。生成式AI应用开发者可以基于市场上的商业化或者开源模型，采用专有数据对模型进行调整，来构建特定场景下的生成式AI应用。各行业的解决方案商可以采用基础模型基于领域数据训练领域大模型，行业企业则可以使用模型定制功能开发企业专属应用，市场上也涌现出越来越多的AI原生企业采用大模型开发出各种创新的应用。 图4生成式AI应用开发者 生成式AI应用开发者 提示词工程 （PromptEngineering) 检索知识增强 （RAG) 微调 （Fine-tuning) 通过设计和调整输入的提示词 （Prompt）,来引导这些模型生成更准确、更有针对性的输出文本 在模型运行时动态地从外部知识库中检索信息，并将其与模型当前处理的内容结合起来，以增强模型的知识理解和 回答能力 对预训练的大模型在特定的数据集上进一步训练，优化其在特定任务上的性 能 来源:IDC,2023 生成式AI应用使用方 将大模型驱动的生成式AI应用程序，部署到企业现有的系统中。采用构建好的生成式AI应用，可以将其应用在内部知识问答、自动邮件生成、代码补齐等场景中，也可以集成在诸如新药研发、预测性维护、广告推荐、智能营销等行业垂直应用中。 2.2大模型提供商的挑战：数据准备耗时