在 AWS 上用生成式人工智能改变您的业务 （ 汉 ）

TORONTO|JUNE14，2023 INO105-FM 通过以下方式转变您的业务 AWS上的生成式AI RiteshVajariyaGirishArunagiriNashlieSephus博士 首席ML专家 AmazonWebServices 首席ML专家 AmazonWebServices 主要AI/ML传教士 AmazonWebServices ©2023，AmazonWebServices,Inc.或其附属公司。保留所有权利。 议程 Introduction 使生成AI变得简单易懂你今天怎么开始？Resources ©2023，AmazonWebServices,Inc.或其附属公司。保留所有权利。 问：什么是生成人工智能（AI）？ •创造新的内容和想法，包括对话，故事、图像、视频和音乐 •由大型模型提供动力，这些模型在庞大的语料库上进行了预训练数据，通常称为基础模型(FMs) ©2023，AmazonWebServices,Inc.或其附属公司。保留所有权利。 生成AI是由 基础模型 对大量的 非结构化数据 包含大量的参数，使他们能够学习复杂的概念 可以在广泛的环境中应用 使用域的数据自定义FM 具体任务 ©2023，AmazonWebServices,Inc.或其附属公司。保留所有权利。 为什么是基础模型（FM）？ 任务任务 ……文本生成文本生成 ……SummarizationSummarization 已标记ML信息 数据模型萃取 无标签信息 FM 数据萃取 ……Q&AQ&A ……ChatbotChatbot 火车部署训练前Adapt ©2023，AmazonWebServices,Inc.或其附属公司。保留所有权利。 FMs的类型 InputFM输出 “总结文章对影响 在心脏健康上行走“ 文本到文本 从简单的自然语言生成文本各种应用程序的提示 “十每天千步是最佳的维护 健康的心脏 “手肥皂” 文本到嵌入 生成文本的数值表示 适用于搜索和查找等应用程序文档之间的相似性 数值表示 “手肥皂笔芯手动皂液器 洗手液抗菌“ "宇航员的照片在M上骑马ars" ©2023，AmazonWebServices,Inc.或其附属公司。保留所有权利。 多式联运 生成和编辑图像自然语言提示 常见用例 文本 Q&A 文本 文本 释义 搜索 代 总结 萃取 重新表述 代码Image 代代 Image 分类 音频视频 代代 ©2023，AmazonWebServices,Inc.或其附属公司。保留所有权利。 灵活性 安全自定义 为什么选择AWS 生成AI? 最 成本效益高基础设施 最简单的方法使用FM构建 生成AI- 供电解决方案 ©2023，AmazonWebServices,Inc.或其附属公司。保留所有权利。 灵活性从a中选择宽 选择由 AI21实验室，人类， 为什么选择AWS 生成AI? 安全 自定义 最 成本效益高基础设施 最简单的方法使用FM构建 生成AI- 供电解决方案 稳定性AI和Amazonto为您找到合适的型号用例。 ©2023，AmazonWebServices,Inc.或其附属公司。保留所有权利。 灵活性 为什么选择AWS 生成AI? 安全自定义 最 成本效益高基础设施 最简单的方法使用FM构建 生成AI- 供电解决方案 自定义FM为您的业务只有几个 标签的例子。因为所有数据是加密的，并且不要离开你的亚马逊虚拟私有云 （AmazonVPC），您可以信任那个您的数据将保留 私人和机密. ©2023，AmazonWebServices,Inc.或其附属公司。保留所有权利。 灵活性 安全自定义 为什么选择AWS 生成AI? 最 成本效益高基础设施 最简单的方法使用FM构建 生成AI- 供电解决方案 Getthe最好的价格性能用于生成 具有基础设施的AI 由AWS设计提供动力 ML芯片和NVIDIAGPU. 经济实惠的扩展 培训和 运行包含数百个的FM 数十亿个参数。 ©2023，AmazonWebServices,Inc.或其附属公司。保留所有权利。 灵活性 安全自定义 为什么选择AWS 生成AI? 最 成本效益高基础设施 最简单的方法使用FM构建 生成AI- 供电解决方案 快速集成和部署 将FM集成到您的应用程序中和运行的工作负载 AWS使用熟悉的控件并与 AWS的深度和广度能力和服务喜欢 AmazonSageMaker和 AmazonS3。 ©2023，AmazonWebServices,Inc.或其附属公司。保留所有权利。 灵活性 为什么选择AWS 生成AI? 安全自定义 最 成本效益高基础设施 最简单的方法使用FM构建 生成AI- 供电解决方案 内置了生成AI，服务，如亚马逊 CodeWhisperer，一种AI编码 伴侣，可以帮助你提高生产率。在 此外，你可以部署常见的生成AI使用呼叫汇总等情况 和问题回答 使用AWS示例解决方案 结合AWSAI服务领先的FM。 ©2023，AmazonWebServices,Inc.或其附属公司。保留所有权利。 在AWS上使用生成式AI进行构建 ©2023，AmazonWebServices,Inc.或其附属公司。保留所有权利。 NEW 亚马逊基岩 最简单的构建方法和规模生成AI 带FM的应用程序 ©2023，AmazonWebServices,Inc.或其附属公司。保留所有权利。 亚马逊基岩的主要优势 Accelerate 从中选择FM 私人定制 增强您的数据 使用AWS工具和 发展 AI21实验室，人类， FM使用您的 保护使用 你的能力 创成式AI 稳定性AI，以及 组织的数据 全面的AWS 熟悉 应用程序使用 亚马逊找到了 安全能力 部署可扩展， 通过API的FM，没有管理 适合您的FM 用例 可靠，安全创成式AI 基础设施 应用程序 ©2023，AmazonWebServices,Inc.或其附属公司。保留所有权利。 亚马逊基岩支持广泛的FM 来自亚马逊的FM来自AI21实验室、人类和稳定性AI的FM 泰坦文本泰坦 嵌入 侏罗纪-2克劳德稳定扩散 ©2023，AmazonWebServices,Inc.或其附属公司。保留所有权利。 亚马逊泰坦 INNOVATERESPONSIBLYWITHIGH-PERFORMINGFMSFROMAMAZON 泰坦文本专注于NLP任务 泰坦嵌入 对于企业任务 如搜索和个性化 好处 •建立在20多年的亚马逊 ML经验 •自动化语言任务，如摘要和文本生成AmazonTitan文本FM •提高搜索准确性和改进个性化推荐 AmazonTitan嵌入FM •通过减少AI来支持负责任的使用不适当或有害的内容 ©2023，AmazonWebServices,Inc.或其附属公司。保留所有权利。 来自顶级AI初创公司的FM 侏罗纪-2克劳德稳定扩散 的多语言LLM 西班牙语文本生成， 法语，德语，葡萄牙语，意大利语和荷兰语 LLMfor会话和文本处理任务 独特的一代， 逼真、高质量的图像，艺术、标志和设计 ©2023，AmazonWebServices,Inc.或其附属公司。保留所有权利。 使用您的私人自定义FM 组织的数据 微调 PURPOSE最大限度地提高特定任务的准确性 需要数据 ©2023，AmazonWebServices,Inc.或其附属公司。保留所有权利。 少量标记的示例 NEW AmazonEC2Trn1n 和AmazonEC2Inf2 专门构建的ML加速器，用于最好的性价比 云中的训练和推理 ©2023，AmazonWebServices,Inc.或其附属公司。保留所有权利。 用于生成AI的专用加速器 AWS推理AWSTrainiumAWS推理2 每个推理的最低成本在云中运行 深度学习(DL)模型 成本效益高，高绩效培训 LLM和扩散模型 高性能 每个推理的最低成本 LLM和扩散模型 降低高达70% 每个推理的成本 节省高达50%关于培训费用 高达40%更好 价格表现 比可比 在可比 比可比 AmazonEC2实例 AmazonEC2实例 AmazonEC2实例 ©2023，AmazonWebServices,Inc.或其附属公司。保留所有权利。 NEW AmazonCodeWhisperer 更快地构建应用程序安全地与AI编码伴侣 ©2023，AmazonWebServices,Inc.或其附属公司。保留所有权利。 AmazonCodeWhisperer：现在一般对个人开发人员可用且免费 生成代码实时建议 难以扫描的代码- 查找漏洞 类似的标志代码开源培训 默认情况下数据或过滤器 在预览期间，亚马逊遇到了生产力挑战，参与者使用亚马逊CodeWhisperer是27%更有可能成功完成任务和 这样做平均快了57%比那些没有使用CodeWhisperer的人 ©2023，AmazonWebServices,Inc.或其附属公司。保留所有权利。 与流行的实验 通过亚马逊的FMSageMakerJumpStart ©2023，AmazonWebServices,Inc.或其附属公司。保留所有权利。 SageMakerJumpStart上提供的FM 用于自我管理的访问 公开可用专有模型 + 模型 模型 模型 模型 模型 模型 Text2Image AlexaTM FlanT-5型号 凝聚 Lyra-Fr 侏罗纪-2 升级 20B （8种变体） DistilGPT2,GPT2 generate-med 10B Grande17B +5其他 任务 任务 机器 布卢姆模型 （3种变体） 任务 文本生成 任务 文本生成 任务 文本生成 Generate 照片逼真 翻译 任务 信息 关键词 长形式 图片来自文本输入 问题 回答 机器翻译 萃取问题 萃取 信息 代 Summarization 提高质量 Summarization 问题 回答 萃取 释义 产生的 图像 功能 微调 SD2.1模型 注释数据生成 回答 Summarization 注释数据生成 功能 微调 Summarization 问题回答 Summarization 情绪 分析分类 聊天信息 萃取 问题回答 分类 +仅用于研究；不用于商业用途（尚未） ©2023，AmazonWebServices,Inc.或其附属公司。保留所有权利。 将FM与SageMakerJumpStart结合使用的3种方法 SageMakerStudioSageMakerAWS管理 一步部署 笔记本 控制台预览 ©2023，AmazonWebServices,Inc.或其附属公司。保留所有权利。 使用SageMakerJumpStart的FM：工作原理 AmazonSageMaker JumpStart 浏览实验自定义部署 访问和试用公共和 专有的FM，并自定义并将它们集成到您的 浏览公共和专有的FM 使用FM进行实验在选择之前 部署模型 自定义所选 FM与您自己的无数据集 部署模型和运行推理为你的生成 生成式AI应用程序从零开始训练 ©2023，AmazonWebServices,Inc.或其附属公司。保留所有权利。 AI用例 框架和自我管理 机器学习 ©2023，AmazonWebServices,Inc.或其附属公司。保留所有权利。 框架和自我管理的ML 偏好自定义或自我管理ML的创成式AI和LLM客户需要帮助大规模扩展 具有AmazonEC2、关键服务和开源框架（例如，PyTorch、JAX）的AWS上的模型这里是4广泛的方式我们可以帮助他们 建筑师 AmazonEC2 开发证明 PyTorch和 可扩展的解决方案 实例选择 的概念 拥抱的脸 使用AmazonEC2， 通过 显示的艺术 采用、缩放、 AmazonEKS