亚马逊云科技-肖宇-为AI生图打造云上引擎，聚焦业务创新

为AI生图打造云上引擎，聚焦业务创新 肖宇亚马逊云科技应用科学家 “ 讲师简介 请插入您的照片 肖宇 亚马逊云科技大 毕业于北京交通大学。在IT行业累积逾十五年经验，曾任职于三星通信技术研究院，阿里大文娱，一直从事机器视觉相关研究，参与了三星旗舰手机，VR相机底层视觉算法研发，优酷长视频质量增强等项目。目前在亚马逊云科技负责大中华区解决方案研发中心，负责生成式AI在图像和视频生成方向的研发工作，服务云计算平台上的用户。 www.top100summit.com ” 中华区解决方案研发中心应用科学家 www.top100summit.com 每个应用都可以通过生成式AI进行重新构建 AmazonQAmazonQuickSight 中的AmazonQ AmazonConnect 中的AmazonQ AmazonCodeWhisperer 生成式AI AmazonBedrockGuardrails代理自定义能力 GPU Trainium Inferentia UltraClustersEFA SageMaker www.top100summit.com EC2容量块 Nitro Neuron 生成式AI 行业适用性 3D建模 文字图片 www.top100summit.com 视频音频 技术实现成熟度 www.top100summit.com 开源生图模型 ModelFamily SD1.5 SD2.0 SD-TurboSDXL-Turbo SDXL AIbythepeople,forthepeople OpensourcefoundationmodelAI www.top100summit.com 目录 01 行业机遇与挑战 02 AI生图上云解决方案介绍 03 客户案例 04 下一步行动 AI生图主流行业与受众群体 游戏电商 媒体出版 www.top100summit.com AI已经可以生成媲美专业美术工作者的精美画作 算法科学家制作人画师设计师 开源项目助力快速验证 StableDiffusionWebUIComfyUI •GithubStar113K •具有图形化的UI界面 •GithubStar19.2K •基于图形界面Workflow可视化引擎 www.top100summit.com https://github.com/AUTOMATIC1111/stable-diffusion-webuihttps://github.com/comfyanonymous/ComfyUI www.top100summit.com 案例1：聚焦业务需求，加速GenAI创新 某社交APP 业务需求 希望通过引入生成式AI技术，快速扩展现有App的功能，从成本 而实现更多业务创新。为此，客户尝试采用StableDiffusion 模型生成风格化图像的功能，以增加App的吸引力和互动性。 挑战稳定 •本地算力资源有限，自建成本高(硬件成本+维护成本)。 •基于开源项目搭建稳定性不够，无法保证业务正常运转。 •缺乏后端API调用弹性资源的能力，2C业务难开展。迭代 •很难跟上开源社区功能迭代的速度。 www.top100summit.com 行业落地痛点 DESIGNER DEVELOPER 技术门槛：编程能力要求高，算法能力要求高，技术工作量大。 硬件门槛：需要高配的GPU，并且随着模型的迭代，需要的基础算力越来越高。 性能瓶颈：单机部署，一次只能运行一个工作负载，严重影响生产效率。 资产管理：业务资产的存储和共享不可控，数据灾备等级低。 多用户权限：不容易做到权限管理和资源隔离。 www.top100summit.com 亚马逊云科技助力企业生图业务落地 上云优势 www.top100summit.com 优化成本 构建前期无需预先投入大量资金，使用过程按需收费，大幅降低IT管理维护的工作量，让运维更加简单。 灵活拓展 依托于弹性伸缩的云资源，支持企业多人共享计算资源和模型资产，加速业务创新迭代。 数据可控 助力客户规范地管理生成式AI业务相关的资产，包括训练数据，模型权重，推理参数，推理结果，方便进行数据溯源。 www.top100summit.com AI生图解决方案 将本地的模型调优、推理等工作负载低迁移成本的无感上云 云上CloudFormation模版一键部署 满足UI和API两种调用模式，满足两种用户需求 提供弹性云上资源 提供多用户权限管理和资源隔离 一个扩展 本地服务器/EC2 本地服务器/EC2 亚马逊云服务 www.top100summit.com 推理 训练 前后推理 webui 亚马逊云服务插件 webui 中间件 推理 训练 前后处理 功能组件 RESTful 社区原生 亚马逊云服务提供 www.top100summit.com 一个中间件 为什么是AmazonSageMaker？ 速度更快，成本更优的模型训练 选择更多，调度灵活的模型推理 400+预置算法、基础模型、范例 www.top100summit.com 模型试验和调优 分布式训练40% 实时推理 异步推理 Stability.ai AI21labs 训练编译器50% Spot实例90% 批量转换 无服务器推理 huggingface alexa www.top100summit.com 用户益处 节省部署时间提升工作效率 www.top100summit.com 核心功能 + 多用户权限配置 推理模型管理 训练资产管理 计算资源配置 多个训练框架 多种推理任务 多种前后处理任务 功能组件底层生图框架 www.top100summit.com 核心功能 配置APIURL和Token打通云上资源 角色和用户配置 多用户权限配置 角色管理 用户管理 www.top100summit.com www.top100summit.com 计算资源弹性配置 •多人共享一个endpoint。 •根据请求任务弹性伸缩实例。 •实例数量可以冷却到0，最大限度 降低成本。 www.top100summit.com 数据资产管理 多种类型数据上传 图片数据可视化 添加数据描述 推理模型上传 支持多种类型模型 多种上传方式 上传模型列表展示 + www.top100summit.com 底层AI生图框架—模型训练 多类型模型 Dreambooth LoRA TextualInversion 多训练框架 Diffusers kohya + www.top100summit.com 底层AI生图框架—模型推理 基于Diffusers框架，打造多样灵活的推理方案 Text-to-image Image-to-Image Base Inpainting ControlNet LatentConsistencyModels(LCM) LCM-LoRA Extra SDXLTurbo Wuerstchen https://github.com/huggingface/diffusers www.top100summit.com 客户价值 加快客户AI生图业务的前期调研和模型验证的速度。 提升客户搭建自有AI生图平台和工具的效率。降低客户开展AI生图业务的硬件要求。 助力客户规范地管理同生成式AI业务相关的资产。 www.top100summit.com 案例1：聚焦业务需求，加速GenAI创新 业务需求 希望通过引入生成式AI技术，快速扩展现有App的功能，从而实现更多业务创新。为此，客户尝试采用StableDiffusion模型生成风格化图像的功能，以增加App的吸引力和互动性。 挑战 •本地算力资源有限，自建成本高(硬件成本+维护成本)。 •基于开源项目搭建稳定性不够，无法保证业务正常运转。 •缺乏后端API调用弹性资源的能力，2C业务难开展。 •很难跟上开源社区功能迭代的速度。 某社交APP 成本 稳定迭代 案例1：聚焦业务需求，加速GenAI创新 业务挑战解决方案 www.top100summit.com 某社交APP 部署成本低 成本 推理成本低 稳定前后端分离迭代工程最佳实践 CloudFormation一键部署，15分钟完成。支持异步推理、实例弹性伸缩，实现按需支持、优化成本。 API直接调用后端云上计算资源，保证了推理任务高成功率。 灵活的入参设计和pipeline的自由切换，保证新功能的快速部署。 案例1：聚焦业务需求，加速GenAI创新 www.top100summit.com 某社交APP 部署时间 只花费15分钟即完成解决方案部署。 新功能上线 客户使用解决方案提供的API高效搭建App新功能，不用担心底层架构，更多关注上层产品设计和用户体验。 解决方案确保新功能在较短时间内迭代，跟上开源社区脚步，加速业务创新。 www.top100summit.com 案例2：亚马逊云科技中国峰会GenAI展位“皮影随形” 案例2：亚马逊云科技中国峰会GenAI展位“皮影随形” www.top100summit.com www.top100summit.com www.top100summit.com www.top100summit.com 总结 •AI生图能够广泛赋能各行各业。 •亚马逊云科技AI生图解决方案可以帮客户快速在云上搭建AI生图平台，高效二次开发延伸工具产品，提高生产力，提升产品能力图谱。 •支持UI与API直接调用两种方式，灵活多样。 •支持多用户功能支持客户更便捷搭建内部媒资系统。 •适合2B/2C多种场景。 下一步 AmazonBedrock 预览 使用自然语言提示生成工作室品质的图像 使用专有数据自定义图像以匹配您的品牌风格与几种领先模型相比，文本到图像的得分更高 www.top100summit.com www.top100summit.com 相关资源 解决方案主页部署手册 微信官方公众号：壹佰案例关注查看更多年度实践案例