亚马逊云科技（王启明）：拥抱生成式AI，把握新机遇

拥抱⽣成式AI，把握新机遇 王启明 亚马逊云科技 合作伙伴解决⽅案架构师 创新能够 生成式AI ⽣成式AI技术栈 AmazonQAmazonQinQuickSight AmazonQinConnect AmazonCodeWhisperer AmazonBedrock 防护栏智能体自定义功能 构建⽣成式AI应⽤⼯程化的挑战有哪些？如何克服? 如何去赋能团队加速去做⽣成式AIUseCase的实验? 企业在构建⽣成式AI应⽤旅程中会思考的问题 我们缺乏⾼质量的数据怎么办？ 如何选择⼤模型去构建应⽤？ 什么UseCase真能帮到业务？ 如何保证企业私有数据不被⼤模型吸收？ 如何衡量⼀个⽣成式AIUseCase的成功? 模型的适配/调优，PromptEngineering/RAG/Finetune⽤哪种⽅法合适？ 构建⽣成式AI应⽤需要团队的Skills有哪些改变？ 如何设定Guardrail为负责任的⽣成式AI应⽤? 模型选择与部署？ 按原样使⽤模型、微调还是从头开始构建 指标业务 精确 对事实的回应、完整性和覆盖范围的准确性的衡量 速度 测量到第⼀个字节的时间并完成结果 经济 衡量托管和调⽤LLM的成本 透明度 反应中幻觉的测量以及引⽤和来源的准确性 责任 安全、隐私和治理的衡量和管理 聊天机器人虚拟助手 联络中心呼叫分析智能导购&个性化推荐 智慧数字人 对话式搜索代码生成 文字、图片、视频生成产品设计 从数据到洞察 智能文档处理内容审核数据增强 安全流程优化 大量可供选择的基础模型 MistralAI JURASSIC-2 AMAZONTITAN CLAUDE COMMAND+EMBED LLAMA2 MISTRAL8x7BMISTRAL7B STABLEDIFFUSIONXL 亚马逊云科技Marketplace 基于SaaS架构的交付类型 基础模型 定制化您的私有数据 微调检索增强生成（RAG）持续预训练 问题 基础模型 向量数据存储Vectorembeddings 答案 AMAZONOPENSEARCH SERVICE AMAZONAURORA POSTGRESQL AMAZONRDSFOR POSTGRESQL 构建、训练并大规模部署机器学习模型 自动化的模型微调和分布式训练灵活的模型部署方案 机器学习运维工具 面向负责任AI的内置功能 数据辅助战略？ 数据从何⽽来，数据如何处理 ⽣成式AI应⽤程序 基础模型、分析、数据库和数据集成 ⾯向⽣成式AI构建强⼤的数据“基座” 全⾯的 ⽤于存储和查询结构化、⾮结构化与⽮量数据的服务 集成的 数据集成选项，包括ZeroETL，以便轻松连接到您的所有数据 受治理的 ⾼质量合规数据的端到端数据治理功能 编目与治理|AmazonGlueDataCatalog，亚马逊云科技LakeFormation，AmazonDataZone 端到端数据基础 存储 数据仓库 AmazonRedshift 数据湖 AmazonS3 数据库 AmazonAmazonRDSDynamoDB AmazonOpenSearchService 处理 大数据 AmazonEMR AmazonGlueDataQuality AmazonGlue任务 接入 数据库 AmazonKinesis 和AmazonMSK AmazonDatabaseMigrationService AmazonGlue连接器 数据源 物联网/设备 应用/日志 第三方数据 执行 商业智能 AmazonQuickSight 生成式AI AmazonBedrock 机器学习 AmazonSageMaker 集成 人 应用程序 设备 从POC到⽣产？ 快速构建负责任的AI 如何看待风险将帮助我们更负责任地构建 使用人工智能识别地图上的足球场 使用人工智能识别x光片上的肿瘤 您的方法如何变化？ 是否存在新的注意事项和规则？ 威胁 需要将法律和监管要求放在重要位置 需要消除偏⻅ ⼤模型可能产⽣幻觉 需要考虑隐私和数据保护 必须确保问责制与透明度 必须保护知识产权 必须对可能滥⽤和⽣成有害内容进⾏监管 绝不使用任何客户数据来训练底座模型 Amazon 保障数据安全和隐私 所有数据在传输和存储时均进行了加密处理 您的VPC不会泄露任何用于训练自定义模型的数据 支持GDPR和HIPAA等标准 ⽣成式AI时代开发者的能⼒要求 HARDSKILLS 机器学习和深度学习 AI数据⼯程 神经⽹络和深度学习架构专家 数据筛选、预处理和清洗，具备 数据的提取，转换和加载（ETL）能⼒ ⽣成式AI框架和⼯具 提示词⼯程和认证 精通⽣成式AI框架和⼯具，能够 进⾏模型开发，训练，调优和评估 有能⼒编写⾼质量的提示词以保证 ⼤模型的输�正确性和稳定性 SOFTSKILLS 创新和领域专家 持续学习和适应能⼒ 创造⼒和跳�框框思考的能⼒， 为GAI⽣成创新的应⽤程序和⽤例 持续学习，随时了解最新 研究成果，适应变化 道德考虑因素和负责任的⼈⼯智能 改变领导⼒ 道德考虑、偏⻅缓解、隐私保 护和负责任部署⽅⾯的技能 领导团队的能⼒通过改变。 联盟建设、持续传播和沟通 亚马逊云科技Marketplace 甄选的数字目录，帮助客户查找、订阅、部署和管理第三方软件、数据和服务 15000+可交易产品 部署到31个地区 4000+卖家 300+数据提供商 2000+渠道合作伙伴 70个类别（监控、安全、数据库等） 250万+活跃订阅 30万名活跃用户 立即行动，开启合作 亚马逊云科技Marketplace 海外区 亚马逊云科技Marketplace 中国区 https://aws.amazon.com/marketplacehttps://awsmarketplace.amazonaws.cn/marketplace THANKYOU