生成式人工智能的风险和机遇管理2023英文版

管理生成AI的风险和机遇 2023年10月 受信任的AI负责任地加速。 目录 Introduction 2商业有什么危险？4如何识别您的Gen - AI用例6管理新的和放大的风险8董事会成员和董事可以做什么10高管可以做什么11底线13联系我们了解更多15普华永道风险保证如何帮助14 Introduction 2022年11月发生了真正革命性的事情。突然之间，任何拥有互联网连接的人，只具备在聊天应用程序中进行对话的能力，都可以运用人工智能（AI）的变革力量。 在一周之内，在ChatGPT的帮助下，超过一百万的用户制作了简短的文章，编写了计算机代码，制作了艺术品，并将长篇资料汇总成可能比原著更好，更简洁的作品。 同时，恶意威胁行为者测试了生成AI（Gen - AI），以编写恶意软件，更可信的网络钓鱼电子邮件和更有说服力的假身份，并迅速广泛传播-大规模欺诈，侵犯隐私，虚假信息和网络攻击的潜在预兆。 在ChatGPT首次亮相几个月后，生成AI继续越来越深入地融入我们的生活和业务。我们看到了有史以来活跃消费者用户增长最快的情况。我们已经看到了从OpeAI的GPT3到GPT4的功能飞跃-在编码和中级专业写作中记录的成就。很快，科技公司推出/重新推出了竞争产品；初创公司发布了定制应用程序的模型；包括普华永道在内的公司已经宣布了大量投资，以创建自己的“CompayGPT ”供内部使用和新服务产品。 但是生成AI带有警告标签。“具有人类竞争情报的AI系统可能对社会和人类构成深远的风险，”包括专家在内的有关公民警告说。即使是这项技术的顶级提供商也承认这些风险。 管理它们是成功的关键。如果您的公司希望推出成功的生成式人工智能计划并获得竞争优势，您将需要评估该技术可能在整个企业范围内带来的风险。为此，您将需要一个风险管理框架，该框架还可以让您抓住机会。 基于风险的生成AI方法将使您与监管机构，消费者和其他利益相关者站在正确的数字基础上。在部署生成AI时赢得信任将使您能够迅速充分利用这种改变游戏规则的技术所提供的好处。 78% Only48% 46%中国vs68%香港 中国受访者认为使用人工智能的产品和服务利大于弊（来源：IPSOS，2022） 受访者正在投资包括人工智能在内的新兴技术（来源：普华永道，2023年） 员工认为越来越多地使用人工智能将使他们的职业生涯变得更好（来源：IPSOS，2022） 生意有什么危险？ 作为人工智能(AI)的一个强大子集，它正在对业务产生真正的变革性影响。它可以自动化和增强几乎所有业务运营的各个方面，包括客户服务、软件开发和数据分析。 可持续地实现这种增长的关键将是从最初阶段招募风险专家。这样做可以帮助您建立对生成AI项目的信心。 您的风险经理必须管理新的和放大的风险，以及一系列业务、法律和监管挑战。白宫，美国国会，联邦贸易委员会，中国网络空间管理局和欧盟（EU）相继采取行动来规范生成AI。与此同时，一些国家(意大利、加拿大、西班牙、法国、德国)开始调查，以回应关于生成人工智能未经同意收集、使用和披露个人信息的投诉或担忧，这违反了数据保护法。 它可以通过个性化与客户的互动来改善您与客户的互动方式。它可以自动执行大量任务，例如处理保险索赔和通信或执行某些软件开发任务。 它可能使您的团队更容易理解非结构化数据，包括合同、发票、客户反馈、保单、保险调整员注释、绩效评估、医疗记录等。 针对更广泛的生成AI技术，中国网络空间管理局（CAC），国家发展和改革委员会（NDRC），教育部（MOE），科技部（MST），工业和信息化部（MIIT），公安部（MPS）和国家广播电视管理局（NRTA）于2023年7月10日联合发布了《生成AI法规》，该法规于2023年8月15日生效。CAC于2023年10月18日发布了全球AI治理倡议。 通过自动化常规任务,生成AI工具可以让员工创造性地工作、创新并更全面地理解复杂的主题和任务,从而实现更高级的批判性思维。 随着对这项技术的需求持续增长，其功能也在不断增长。仅在四个月内，人工智能语言系统在复杂程度和使用上都取得了显着进步，而且它们不太可能很快停止。 习主席在中共中央政治局会议上还表示，“关键是要优先发展通用人工智能，建立创新生态系统，并注重风险防范”。 *基于美国的研究 生成AI对您的业务意味着什么 以下是您的公司开始利用Gen - AI时需要考虑的关键重点领域。 劳动力：为新的工作方式培养技能。 Ge - AI具有增强知识型员工能力的潜力，使他们能够在更短的时间内取得比现有能力更大的成就。但是，要充分利用这一潜力，必须为员工提供提高技能的机会，为他们提供必要的技能，以利用新工具并采用新的工作方式。重要的是不要被Ge - AI的简单性欺骗，而是必须获得如何负责任地使用它的知识。随着你的组织接受人工智能，新的角色将会出现，比如工程师和模型机械师，可能会形成一个“人工智能工厂”来支持人工智能系统的实施和维护。 功能转换：重新构想操作。 部署生成AI以实现快速投资回报的“最佳点”是显而易见的：部署它以自动化和改进各种运营方面，如营销、财务、供应链和税收合规。通过利用Ge - AI，您可以最大限度地利用现有资源，增强决策能力，并提升客户和员工的体验。Ge - AI可以简化数据和文档集的组织，简化人类研究工作。它还可以生成初始版本的财务，风险和合规性报告，制作个性化的客户服务响应，并识别由人类编写的报告中的违规行为。然而，为了确保可靠的结果，至关重要的是在负责任的AI框架中保持强有力的监督。 云和数据：为增长奠定基础。 Gen - AI释放了非结构化数据的潜力，从而实现更好的决策，收入增长和业务扩展。对于公司而言，在考虑Gen - AI的情况下规划其数据和应用程序现代化至关重要，因为它将从根本上改变基于云的业务应用程序的构建和运行方式。 负责任的AI：建立信任和管理风险。 为了让Ge - AI真正彻底改变您的业务，可信度至关重要。这需要采用负责任的AI，这是一种专门为确保AI的可信赖和道德应用而精心设计的方法。通过整合技术、流程和技能，负责任的人工智能解决了与生成人工智能相关的各种风险，如网络威胁、隐私问题、法律影响、性能问题、偏见和知识产权风险。为了有效地实施负责任的AI，理想的方法是按设计信任，从一开始就将其集成到您的系统中，并根据学到的经验教训不断完善它。 新的商业模式：数据货币化和行业重塑。 Ge - AI提供了这种潜力，既可以建立新的商业模式，又可以破坏基本的价值链。当您利用Ge - AI提供的当前运营效率时，请考虑它如何在不久的将来改变您的行业和业务。 如何识别您的Gen - AI用例 从客户服务到软件开发和数据分析，绝大多数业务运营的各个方面都可以通过生成AI进行自动化和增强。组织可以使用以下观点来识别用例。 自下而上 Top - Down 对于我的部门和职能来说，Gen - AI适合什么？Gen - AI做得很好，它如何为我服务？ 工业部门 任务类型 Gen - AI技术已证明其在解决特定行业问题方面的价值，例如医疗保健，科学研究和金融领域的问题。 某些类别的任务，例如摘要，转换和问答，最适合于生成模型的技术机制。 这些职责如何在您的业务流程中发挥作用？ 哪些Gen - AI技术可用于您的行业？生成能力如何提高您相对于竞争对手的竞争优势？ 输出数据模态 业务职能 生成技术涉及文本，代码，图像，音频，视频等的全新创建。 Gen - AI技术可以集成到研发，营销，销售，客户支持，运营，法律和后台程序中。 团队和员工每天都在制作什么样的内容？ 生成应用程序如何才能最好地服务于更大的利益？ 您的IT和风险专业人员可以通过Generative AI帮助您的公司以负责任的方式加速发展。他们可以帮助确认它是适当的私人，公平的，具有管理的有害偏见，有效和可靠，负责和透明，可解释和可解释。 换句话说，它是可信的。 管理新的和放大的风险 我们看到组织需要了解和管理的技术固有的四大风险： 提示或输入风险由于向AI模型提供了不复杂的提示或问题，导致了误导性、不准确或有害的响应。 模型和偏差风险 数据风险 用户风险 错误传播，知识产权（IP）或合同问题（由于缺乏将数据用于此类目的的批准），或由用于训练生成AI模型的低质量数据引起的误导性和有害内容。 在语言模型开发中违反道德和负责任的AI原则，导致歧视性或不公平的输出。 由于用户在不知情的情况下成为错误信息和其他有害内容的创建方，造成了意想不到的后果。例如，他们可能会将AI产生的幻觉— —错误或无意义的反应— —作为事实。 您的风险专业人士将激活生成AI以实现可信赖的结果，因此，设计信任而不仅仅是速度，是您对客户，投资者，业务合作伙伴，员工和社会的价值主张。 监测人类的表现，以防止“技能萎缩”、自满或质量随时间下降。 既定框架，例如香港政府资讯科技总监办公室（OGCIO）发布的道德人工智能框架，香港个人资料私隐专员办公室（PCPD）发布的道德发展和使用人工智能指南，《关于银行业和保险业数字化转型的指导意见》，中国银行保险监督管理委员会发布。使用机器学习的IS0 / IEC 23053：2022AI系统框架是设计和部署可信AI应用程序的良好开端。 拥有有效的AI治理策略至关重要，因为除了风险专业人士之外，组织内外的许多人都可以影响您负责任地使用生成AI的能力。他们包括数据科学家，数据工程师，数据提供商，领域专家，社会文化分析师，多样性，公平性，包容性和可访问性领域的专家，受影响的社区，用户体验设计师，治理专家，系统资助者，产品经理，第三方实体，评估人员以及法律和隐私专业人员。 3.模型管理 2.模型验证 在生产中部署、操作和监控AI模型的关键控制措施。 董事会成员和董事可以做什么 首先要让董事会增加董事对人工智能和生成人工智能的了解，利用管理和外部资源来了解技术不断增长的能力，跟上新的用例以及商业模式的变化，以及风险和负责任的使用。 在解决AI和生成式AI时，董事们需要从商业角度考虑这项技术及其使用。与董事会监督的许多其他领域一样，它的作用是向管理层提出好问题-本报告中分享了一些开始的示例-并在适当的时候挑战管理层。当董事会讨论AI和生成AI时，董事会可以考虑是否需要其他技能，或者是否依靠管理层或第三方的技能。 Review这项技术的成本和收益 考虑与利益相关者的沟通 •董事会还应研究公司如何在内部和外部向利益相关者传达其AI故事。•专注于管理层正在进行的战略变革，以在当今瞬息万变的商业环境中保持相关性和竞争力•确保采用保障措施来保护员工、客户、组织和其他利益相关者。 •董事会应与管理层讨论公司的整体收益和成本。 •为了获得好处，这是一个重新想象你如何完成工作的问题— —员工是如何工作的，客户是如何参与的，你卖什么，你是如何竞争的。•整个公司的员工在人工智能和生成人工智能使用方面接受培训和提高技能的成本可能是必要的，因为管理层希望建立一种鼓励员工学习新技能的文化，以及一种激励速度和创新以捕捉新机会的文化。 监督衡量成功的AI监督计划 开发具有问责制的治理模式 •随着公司决定AI的前进道路以及管理层优先考虑的业务用例，整个公司可能会进行大规模的数字化转型，并需要大量投资。 •当正在进行一项重大投资来改造公司时，董事会将希望了解围绕人工智能的数字化转型战略和计划，以及它如何与业务战略保持一致。 •推动问责制的治理模型至关重要，首先要了解谁拥有公司内部AI治理的责任。 •有效的治理模型使组织能够评估与其特定技术和单个用例相关的独特利益和风险权衡。 C - Suite可以做什么 让我们来看看两个例子，在这些例子中，高管和他们的团队可以协作管理风险，以及强大的治理可以提供什么帮助。 示例1：构建基于AI的生成式医疗咨询聊天机器人的机会和风险 医疗保健提供者考虑使用生成AI来