利用创成式 AI 生命周期最佳实践加快 ROI

白皮书 利用创成式AI生命周期最佳实践加快ROI 借助本指南，让您的业务取得成功，并利用生成AI的优势。 解构生成AI 虽然人工智能(AI)一直是商业领袖的主流考虑因素，但最近生成AI的流行给许多人留下了很多问题。利用这种强大的技术来推动成果对许多组织来说是自然的下一步，但他们需要支持才能入门。 生成AI是AI技术的一个子集，可以响应提供的提示生成文本，图像或其他人机交互方式等内容。生成AI使用神经网络从训练数据中学习，使神经网络能够识别源数据中的模式，然后将其用于产生概率生成响应。大型语言模型（LLM）是构建生成AI的基础；这些算法使用深度学习技术对大量文本进行模拟人类智能的预测。如果您曾经在电子邮件中输入的句子的建议结尾显示，那么您已经使用了一个版本的生成AI。 但是，这项技术如何支持业务成果呢？从开发人员到营销人员，生成AI可以将手动，平凡的任务从人转移到机器。在任何业务中，以这种方式简化的工作量都是巨大的，可以节省时间并提高生产率。此外，聊天机器人等现有解决方案可以通过将典型的条件响应模型简化为易于扩展并产生更人性化响应的生成模型来增强。 由于生成AI发展迅速，因此组织成为早期采用者和快速追随者比以往任何时候都更加重要。随着技术的优化，这些不仅可以提高效率，还可以创造竞争优势。本白皮书可以作为生成AI的实用指南，为您的实施之旅和加速ROI提供支持。 通过数字 72% 51% 81% 领导者希望采用生成式AI提高 员工的生产力。 说质量和控制是首要关注的问 题周围 实施生成式AI。 领导人说他们的公司已经建立或正在发展内部生成 AI政策。1 概述潜在的好处 对于希望通过早期采用有影响力的技术来建立市场主导地位的组织来说，生成人工智能可以提供广泛的好处。以下是一些例子： 提高生产力 有了这项技术，员工可以将重复的手动任务转移给人工智能。他们可以优先考虑更具战略性的、基于技能的工作，而不必牺牲较小但必不可少的任务。 降低公司成本 生产力的提高为员工节省了时间，甚至可以帮助缩小团队的劳动力和技能差距。随着效率的提高，员工可以在更短的时间内完成更多工作，从而以相同的工作量完成更多工作。 改善员工体验(EX) 那些重复的手动任务可能是平凡的，将它们从员工的盘子中删除可以改善他们的日常工作。此外，节省的时间可以用于提高技能和完成更有意义的工作。 改善客户体验(CX) 人工智能的参与意味着客户将获得更快的服务，并获得更高的体验质量。例如，具有生成式人工智能的聊天机器人将能够提供优于现有解决方案的卓越客户服务体验。 减少风险和错误 随着流程的自动化，从等式中消除了人为错误的可能性。人工智能也可以进行微调，以随着时间的推移而改进，进一步减少错误和与之相关的风险。 竞争差异化 将所有潜在的好处放在一起可以轻松地为组织创造竞争优势。更好的EX可以留住人才，这可能意味着企业更多的创新。提高CX可以建立忠诚度，并将品牌与其他选择区分开来。提高生产率和降低成本也可能意味着对竞争尚未涉及的新业务领域的再投资。 实用生成AI的特点 希望使用生成式AI的组织应尝试捕获某些特征以增加其成功的机会。对于整个企业的实际使用，从可扩展性到隐私的所有内容对于生成式AI解决方案的长期ROI和管理至关重要 。 可扩展性 对于企业组织而言，他们的生成式AI解决方案可能必须每秒处理许多提示。部署和维护生成式AI存在计算需求，这应该是规划过程的一部分。为特定任务设计了专门的模型，可以减少负载并提高解决方案的可扩展性。 安全性和合规性 每当组织想要寻求新的数据或人工智能解决方案时，都需要将安全性和合规性放在首位。虽然目前有标准，但随着这项技术获得更多主流使用，政策有可能在未来发生变化。此外，负责任和道德的人工智能等概念应该成为对话的一部分。 便携性 创成式AI解决方案是可移植的，用于增强组织特定解决方案的技术可用于任何LLM领域。如果训练你自己的模型，它仍然可以在你选择的另一个环境中复制和重新部署。此外，可以在进一步的生成AI解决方案部署中利用对数据生态系统的投资，例如数据治理。因此，即使是一个生成AI解决方案也很容易扩展。 隐私 对于某些组织来说，隐私可能是一个问题，因为 开源生成AI解决方案将存储输入并使用它们来改善未来的结果。需要考虑并为非公开的信息确定适当的解决方案，这些信息是个人可识别信息(PII)或被视为知识产权。例如，您的组织可以使用为非公开设计的模型 信息，训练自己的模型，或利用容器化版本的生成AI模型。 最佳实践：生成AI的生命周期 无论是行业还是用例，这个生命周期都可以指导这个过程。生命周期是迭代的；有时组织必须重新审视某些步骤，或者随着生成AI需求的发展而重新开始流程。要建立一个生成式AI卓越中心（CoE），企业领导者应该从这个由专家开发的旅程开始，从想法和开发到部署、管理和治理。 生成的AI业务挑战 控和功效 LLM模型监 生成AI模型选择 LLM模型生产 LLM模型评 估 生成的AI生命周期 探索性响应分析 LLM模型工程 LLM模型增强创建 生成的AI业务挑战 首先，确定业务目标。你的组织想要完成什么？这个过程的一部分是确保预期的结果与人工智能解决方案可以实际解决的问题保持一致。此外，需要有一种方法来衡量生成人工智能对目标的影响。 生成AI模型选择 生成AI的伦理考虑 偏差:对于预先训练的模型，没有一种确定的方法来知道哪些数据被用来开发它；因此，偏差的数量或类型可能会更难 然而，即使对于企业培训的模型，也需要非常小心，以确保不存在无意的偏见。 公平性:这个术语描述了这样一个概念，即用于训练模型的数据应该代表将使用它的人群。使用复杂的数据并可能影响模型性能，很难缓解公平性问题。 一旦您的组织使用生成式AI定义了其业务目标，它就应该开始探索哪种模型对用例最有意义。虽然训练你自己的模型已经摆在桌面上，但预训练的模型将适用于绝大多数应用程序。选择预训练的模型也意味着节省了训练模型的大量计算工作所需的时间和费用。对于那些组织希望广泛控制模型的情况，培训自己的模型将是实现这一目标的最佳方法。 预训练模型有两种类型：通用和特定用途。顾名思义，通用AI模型是为了学习和完成各种任务而创建的，而特定用途则集中在一个任务上。 流行的预训练模型的一些示例包括GPT-4，LaMDA和Titan。尽管预训练模型是可行的选择，但决策者应牢记用于训练模型的数据的年龄和类型。例如，许多流行的预训练选项仅在2021年之前对数据进行训练，这可能会限制可用性或需要增强。 为您的用例确定正确的模型可能需要专家指导-在这一点上利用战略合作伙伴可以简化流程。 道德考虑很重要，但不应成为利用这种有影响力的技术的障碍。与解决方案提供商合作可以为您提供这些领域的指导，从而简化部署和可用性。 探索性响应分析 一旦选择了模型，就应该假设模型并不完美。为了对您的用例有价值，您还需要AI提供哪些其他信息？虽然已经选择了一个基本模型，但它并没有满足您的业务需求所需的所有上下文。确定它可以利用哪些抵押品来支持回答业务问题。重要的是要确保抵押品充足且质量良好，因为它将是AI用来生成响应的信息。 LLM模型工程 完成前两个步骤后，模型工程就是将它们放在一起的原因。此时，需要选择一种技术来支持使用此AI来解决业务问题。组织不仅限于选择其中一种技术，而且使用多种技术可能会很有益。 •工程提示:对模型进行细化，以确保预期的提示产生所需的输出 •知识嵌入：将解决业务问题所需的相关信息传递到模型中 •迁移学习：利用从一项任务中学到的知识来提高另一项任务的完成 •微调：使用现有模型的一部分开始将新部分训练到模型中，这需要较少数量的数据和计算资源。 •模型重新训练:向现有模型提供新数据，以提高与定义的业务问题相关的性能 LLM模型增强创建 一旦选择了一种技术，你的组织就可以专注于应用它。培训将使用人工智能解决方案的内部团队也应该从这个阶段开始。确保团队理解人工智能的提示和能力将使他们的使用更有价值。随着模型的使用，使用它的人需要了解他们如何有效地做到这一点。 LLM模型评估 这一步是将测试生成AI模型的地方。在所有先前的决定都做出并实施之后，它们是否都聚集在一起以帮助解决第一步中确定的需求？此评估的一部分是确定模型在多大程度上满足了需求。例如，在这一点上，应该考虑效率和节省的时间。如果有差距可以弥补以改善这些方面，则应优先考虑。一旦确定模型适合使用,就可以继续下一步。 LLM模型生产 一旦模型被证明可以用于业务使用，就该在整个企业中发布并投入生产了。此时，安全保障措施将初具规模，例如仅限制应该使用它的队友访问。其他IT和管理方面的考虑将插入 ，包括生成AI模型的持续集成/持续部署（CI/CD）管道版本的框架。 LLM模型监控和功效 部署后，组织应保持对模型功效的脉搏。随着时间的推移，应该有一种方法来衡量解决方案是否继续提供价值，如果没有，应该有一种方法来确定发生了什么变化。此外,可以在分析提示及其响应以确定模型可能无法满足需要的地方进行监测。随着时间的推移，这个过程甚至可以自动化，以简化模型的改进过程。 但是，如果已经确定了差距，那么生命周期的整个要点就是能够重新访问它。如果先前选择的模型比替代方案效果较差，则组织可以在该步骤中重新选择。另一方面，可能会发现所识别的业务问题没有被正确定义为由生成AI解决，需要重新评估。或者，如果设想了一个全新的用例，那么就可以针对该业务问题开始一个新的生命周期。循环仍然是流动的 ，生成AI应该被认为是一个迭代过程，以获得最佳结果。 行动中的生成AI：用例 无论行业如何，许多人都会利用生成式人工智能来增强金融或营销等部门的常见业务实践，或者像聊天机器人这样的解决方案。生成AI在现实世界中的应用最终不是关于企业的行业，而是关于企业想要从技术中得到什么。这将属于五种不同的生成AI方法之一。让我们打开每个包装：。 0镜头 •适合简单任务 •使用一个清晰的提示，没有例子 •示例:能够识别图像类别而无需事先看到图像的AI，例如能够识别 AI从未见过的猫 少量射击 •适用于简单的任务，但 需要提供示例 •使用提供示例的提示来指导 LLM •示例:能够将示例应用于新上下文的AI，例如提供狗的示例图像，然后询问狐狸 的图像是否是狗 微调 •适合需要专业技能或风格 的任务 •该模型将需要在与该专业技能或风格相关的数据上进行训练 •示例:经过公司销售电子邮件培训的AI能够生成类似样式的新销售电子邮件 嵌入 •适用于需要了解特定、最 新或非公开信息的任务 •该模型将相关信息与LLM功能相结合 建立自己的模型 •虽然这是最昂贵的选择，但 它适用于需要高度可定制解决方案的情况 不同的组织将有不同的需求，并且在单个组织中，可能存在AI可以帮助解决的各种需求。例如，企业可能会在其收入运营(RevOps)团队中部署少量的数据验证方法 ，但需要对开发人员任务进行微调。无论采用哪种方法，所提供的生命周期都可以指导组织使用有影响力的生成AI。 整个企业的用例 Sales 市场营销 Finance OperationsIT LegalHR 性能指标 合同生成 Bug检测 生产计划 投资策略 活动优化 销售预测 代码 入职材料 法律简报 代码优化 供应链优化 财务报表 广告副本 产品推荐 创建 员工反馈 合规性监控 性能监控 质量控制 风险分析 社交媒体监控 销售报告 总结 恢复筛选 网络安全 趋势分析 查找 客户洞察 欺诈检测 预测性维护 合同分析 InsightGPT：我们的内部生成AI之旅 为了在保护内部数据和知识产权的同时增强员工的能力，Isight启用了对ChatGPT私有安全实例的访问。名为 IsightGPT，它具有与公共版本相同的功能，但保留了员工进入平台的内容和提示。在整个组织中，它用于支持生产力并节省队友完成其典型