云采用 ： 面向金融服务的企业 AZURE OPENAI

云采用： 面向金融服务的企业AZUREOPENAI 关于您的组织如何在整个企业中实施OpenAI的实用指南 2云采用：面向金融服务的企业AzureOpenAI 目录 4 5 6 8 10 第5级：创新11 凯捷如何提供帮助13 Introduction 人工智能(AI)无处不在，其能力也在不断扩展。然而，对于金融服务行业的人来说，将AI纳入组织的想法引发了一个危险信号——尤其是生成式AI。 大多数首席技术官（CTO）都熟悉生成AI，并且知道现成的产品存在，但由于安全问题以及需要定期使用专有企业数据，这些选择是不够的。相反，我们需要的是一种创新、可定制和可增强团队成员的客户运营、改善客户体验并随着时间的推移保持成本效益的解决方案。 考虑生成AI如何帮助提高开发人员的生产力： •在生成AI中添加数据偏差检查可以帮助公平竞争， 生成AI是一种人工智能，专注于创建新颖而复杂的图像，文本 ，音乐或视频输出。 纠正和消除源于人的种族、性别或残疾的算法偏差。 •在将其推广到全体员工之前，对高级员工进行培训，同时基于持续的反馈改进模型，可以全面改善最终用户体验。 •内部工程师将看到开发人员生产力的提高。 •客户将获得针对其特定需求量身定制的更好体验。 •通过使用较小的团队来接触相同数量的员工，从而使用生成式AI简化人力资源管理流程，从而降低成本。 AI工具在您的指尖 现在可以使用各种AI工具来帮助组织进行数字化转型。 例如，MicrosoftCopilot旨在为所有Microsoft应用程序和体验提供AI帮助。 MicrosoftAzureOpenAI提供了一套全面的AI工具和服务，旨在加速组织的数字化转型和创新技术解决方案的采用。金融服务公司可以从利用AzureOpenAI简化流程、增强决策并确保法规合规性中受益。 一旦使用用例和AI工具，实现生成AI的真正好处将取决于 您的组织将结果设定为目标。由您的首席执行官和其他首席执行官来建立具体的 目标和证明在整个组织中纳入生成式人工智能是合理的。 为了实施生成AI，首席技术官需要一个明确的攻击计划，将其纳入他们的业务模型，在评估数据安全和监管合规性等问题的同时探索什么对他们的业务有效。首席技术官知道这一点，但需要更多关于安全和成功做到这一点的考虑因素和要求的信息。在没有计划的情况下前进可能会导致过程中的重大失误。 CTO知道如何将技术掌握在他们的技术团队手中，但必须寻求指导 ，以定制正确的解决方案，而不是轻松获得现成的解决方案。然而 ，投入内部所需的时间，精力和团队成员的成本 在生成AI解决方案上，和/或为企业设计定制应用程序通常是遥不可及的。这就是凯捷可以提供帮助的地方。 加入我们的创成式AI采用之旅： 意识 1 •研究AzureOpenAI功能 •识别潜在用例和应用 •教育内部利益相关者 实验 2 •构建和部署简单的AI模型 •在受控环境中测试AI应用程序 •从最初的成功和失败中学习 Operationalization 3 •在生产环境中实施AI解决方案 •建立AI监管和治理最佳实践 •培训与AI相关的技能和工具 优化 4 •持续监控和改进AI性能 •发现AI应用的新机会 •与其他部门合作以扩大AI的采用 创新 5 •开发尖端的AI应用程序 •与外部合作伙伴和研究人员合作 •成为人工智能领域的思想领袖，推动全行业变革 从意识开始，AzureOpenAI采用之旅经历了五个成熟阶段。接下来是实验，使用Microsoft的软件开发工具包(SDK)和内置工具。移动到通过安全要求和法规遵从性，最终实现最终的最终游戏：优化和创新。 1级：意识 了解AzureOpenAI服务和金融服务中的AzureOpenAI 从内部利益相关者那里获得关于生成AI的好处的核心是教育他们。以下是CTO可以与他们的内部利益相关者分享的一些信息，了解Microsoft的AzureAI服务及其生成AI平台AzureOpenAI。 AzureAI服务构成了Microsoft在Azure中提供的大量可用智能解决方案。这些服务的最新功能-AzureOpenAI-为套件添加了语言生成功能。以下语言服务代表了AI中的一个利基市场，并通过Azure人工智能服务提供： •Bot服务 •内容安全 •文档情报 •沉浸式阅读器 •语言 •演讲稿 •翻译者 在金融服务业务中使用生成式AI提供了许多一般好处，包括简化的决策。AI模型可以快速准确地分析大量数据，使人类用户能够在此类领域做出更好，更快的决策 作为信用风险评估、投资策略和欺诈检测。 利用AzureOpenAI的基于云的基础架构作为生成AI解决方案的基础，公司可以随着需求的增长轻松扩展其AI解决方案，从而确保他们能够继续创新。 一旦组织实现了这种意识，就已经开始了迈向成熟度的第一步。 入门：AzureOpenAI如何保护组织的数据 在将生成式AI纳入您的组织时，保护公司数据是第一步，也是最大的关注点。Microsoft不会使用您公司的数据来提供更大的AI数据池。 以下是AzureOpenAI数据保护旨在维护安全性的三种方式： 1.数据和提示是私有的- AzureOpenAI作为金融服务中生成AI的基础是私有的。最重要的是，提供给AzureOpenAI的数据和提示永远不会以任何身份提供给其他客户。Microsoft不使用数据来微调用户提供的模型或提示作为培训 OpenAI模型本身。因此，自定义模型、提示和输出对每个组织都更安全。每个组织生成的微调模型仅供训练这些模型的组织使用 。 2.仅使用特定于公司的数据- 当组织对AI模型进行微调以满足其需求时，可用数据仅用于 上传它的组织-外部各方无权访问它-并且可能随时被您的公司删除。 此数据存储在AzureOpenAI资源的同一区域中，并且可以在静止时进行双重加密。此双重加密方法利用Microsoft托管密钥和客户托管密钥进行加密。 3.内容过滤和滥用监控控制提供- 为了减少对服务的有害使用并确保以符合Microsoft行为准则的方式使用该服务，Microsoft提供了内容过滤和滥用监视控件，作为AzureOpenAI服务的一部分。 对于内容筛选功能，不存储提示或生成的结果数据。此外，由于此短暂功能，数据不用于训练，重新训练或改进模型 。 滥用监视功能是异步的，并且默认情况下，提示和生成的结果最多存储30天。此监视可以配置为在豁免时不存储数据 Microsoft的批准。即使未禁用此监视，数据也会存储在与其他用户逻辑上分离的位置。 最后,只有当标记内容时,才会触发人工审查。 一旦内部利益相关者加入，用例和应用程序已经被确定，潜在的能力已经被考虑，现在是实验阶段的时候了。 第2级：实验 学习如何在受控环境中构建、部署和测试AI应用程序 对采用AzreOpeAI感兴趣的金融服务公司需要了解系统的部署模式-如何使用它，以及提供的工具和功能，使其成为一个平稳的过程。默认模型非常适合在沙盒环境中入门，并帮助您的内部工程师了解服务的运行方式。一旦概念验证完成并且团队了解服务，下一步就是。 可用的应用程序编程接口(API)允许您的组织： •上传训练数据 •创建微调请求 •检查微调请求的状态 •部署自定义模型 这些功能通过CI/CD管道中的一系列脚本实现自动化。 一旦数据可用，就更容易从沙箱移动到来自服务的更复杂的输出。 开始使用 要在沙盒环境中开始使用并发展到第二个成熟度级别，您的组织必须聘请多个团队成员，以确保无缝和成功的技术开发，包括合规官、企业架构师、工程和业务团队。下图说明了在您的组织开始时，每个团队成员将如何参与。 1.定义审计流程、实践和文档，以提升合规风险和身份违规 2.创建和审查政策和内部控制 3.为组织制定创成式AI的法律合规性要求 4.管理和监督实施，以确保符合合规性要求 风险与合规官员 1.创建白皮书以确定战略决策、最佳实践和采用理由 2.定义设计模式和组织标准以使用生成式AI 3.获得使用该技术的批准 4.根据组织策略评估和加强安全性 企业、解决方案、InfoSec架构师 1.使用各种预构建模型开发沙箱原型并学习实现实践 2.开发基础架构自动化和集成API 3.从体系结构中纳入安全性和法规遵从性要求 软件、基础设施、 InfoSec工程师 1.通过利用生成式AI的特性，确定使客户受益的用例 2.开发具有合理性的业务案例，以证明将得出的价值 3.编译数据库以支持模型微调和评估 业务团队 Azure帐户处于活动状态后，第一步是使用AzureAI服务设置OpenAI环境。 AzureOpenAI配备了一组预构建的AI模型，使开发人员可以更轻松地开始使用GPT等生成AI模型。 接下来，您的团队必须选择适当的AI模型来尝试并确定最适合您公司需求的AI模型。Azure为异常检测、欺诈预防和风险评估等任务提供预构建模型。 至关重要的是，围绕您使用AI的合规性要求定义安全性和策略。而最终将利用OpenAI服务的团队正在研究和了解使用 模式，企业架构组必须围绕合规性要求定义AI标准和策略，以实现对该技术的全面采用。 一旦您的团队了解了基础知识并定义了策略和标准，下一步就是训练和测试AI模型，以验证哪些模型适合您的组织需求。使用您公司的历史数据来训练和微调AI模型。训练后，测试模型以确保其准确性和可靠性。 为了帮助代码进行内容生成、摘要、语义搜索和自然语言，AzureOpenAI服务提供了对OpenAI语言模型（包括GPT-3、GPT-4 、Codex和嵌入模型系列）的RESTAPI访问。 Microsoft的AzureOpenAIStudio用户界面访问基于代码的方法（API或SDK）之外的服务，同时提供游乐场和管理功能。在游乐场方面，聊天和 完成选项可用，允许用户与模型进行交互以进行测试和评估。在管理方面，用户可以上传数据、预配基础和自定义模型，并在游乐场或通过API创建用于交互的部署。AzureOpenAI服务也可以使用Azure提供的标准自动化工具进行预配。 除了预配服务外，多个SDK还可以与AzureOpenAIAPI进行交互，从而提供了将OpenAI集成到自定义软件解决方案中的简单方法。 SDK是为Python、.NET和Java等编程语言开发的，通过为OpenAI 服务构建包装器微服务，可以轻松入门。该包装器可以执行围绕安全性 、法规和合规性的规则，并提供FinOps控制的手段。 •在实验阶段结束时，您的团队成员应该完成以下工作： •定义适当的政策 •了解使用模式（并且可能已经开始采用生成AI的概念验证） •经过训练和测试的模型，适合在您的组织中使用。 完成上述任务后，您的组织就可以在生产中部署这些AI模型，并开始收获AI的好处。 在采用基础知识，定义标准和最佳实践以及通过实验实施适当政策的同时，金融服务组织可以发展到下一个成熟水平：运营化。 AzureOpenAI正在运行 作为微软整体产品的一部分，组织可以采用用于使用平台的软件。 考虑这种情况：组织在其客户软件中实现二头肌和SDK，以便其客户服务代表可以与被保险人聊天。客户pig代表询问汽车保单问题，提供他们的承保类型和保单编号，因为他们想知道他们是否可以因支付汽车索赔而获得赔偿。AI模型可帮助快速评估保单，并确定自动索赔减去免赔额，从而节省了客户和代表在此过程中的时间。 如果没有生成人工智能，客户服务代表将不得不提出并阅读政策。如果他们需要帮助，代表还可能需要与内部资源协商以寻求帮助 ，从而增加了帮助解决客户的政策和索赔相关问题所需的时间。 第3级：操作化 在启用AzureOpenAI时添加安全性和隐私 虽然Microsoft可以轻松地在Azure中设置基础结构以利用生成AI，但金融机构必须考虑这样做的安全隐患。使用OpenAI等产品时的一些关键注意事项