CEO生成式AI行动指南：风险管理

CEO生成式AI行动指南风险管理 风险管理 CEO生成式AI行动指南： 管风理险不可预测的 不同于以往的任何技术，生成式AI正在迅速颠覆商业和社会形态，迫使企业领导者刻不容缓地重新思考其假设、计划和战略。 为了帮助CEO们掌握快速变化的形势，IBM商业价值研究院(IBMIBV)发布了一系列有针对性、基于研究数据的生成式AI指南，涵盖数据安全、技术投资策略和客户体验等主题。 这是本指南的第十九部分，重点关注“风险管理”。 每一个拐角处都潜藏着风险 在风险管理方面，生成式AI就像一位精通制图的专家，能够迅速根据形势绘制出风险地形图。这让我们能够清楚地看到新出现的风险，从气候灾难到AI驱动的伦理困境，同时保持对传统风险的清晰把控。 生成式AI可帮助团队识别可能预示着重大问题的模式，通过模拟“假设”场景来为未知挑战做好准备，同时生成后续行动建议。鉴于这些强大的能力，55%的受访CEO认为生成式AI是一种机遇，而非风险。 但也有45%的受访CEO认为风险大于机遇。尽管生成式AI可以作为扩展风险管理能力的利器，但同时也扩大了需要管理的风险的广度和深度。作为一项颠覆性技术，生成式AI也创造了新的断层和漏洞，例如复杂的新型诈骗。 生成式AI驱动的数据分析具备大规模和速度快的特点，这往往会产生盲点，掩盖关键风险，同时引入各种新风险，例如深度伪造的图像、文档和声音。当团队需要保持高度警惕时，过度依赖生成式AI的输出可能会产生一种虚假的安全感。不准确的评估、计算资源的成本、安全漏洞的扩大以及数据的不当使用等风险都可能导致组织偏离轨道并出现违规。 IBM商业价值研究院1 1.设定激发创新而非引 发混乱的风险阈值。 CEO需要学会如何驾驭生成式AI带来的双重风险，并制定一条深思熟虑的路线图，将AI驱动的风险管理与人类判断、监督及合规性相结合。如果能够取得适当平衡，组织将能够更加快速高效地应对快速演化的威胁，从而建立更强的韧性。而如果在采用生成式AI方面过于激进或过于保守，组织可能会面临意想不到的后果或失去竞争力。 IBM商业价值研究院甄别出了每位领导者都需要了解的三个要点： 1.生一场成风式险AI风正暴在。引发 2.组织的声誉岌岌可危。 3.未来，威胁会不断加剧。 现在，每位领导者都需要采取以下三项行动： 2.防声誉微风杜险渐。，及时化解 3.时一刻遇的做风好险准。备，应对百年 IBMInstituteforBusinessValue2 1.创新+生成式AI 需要了解的事项 生风成险式风暴AI正在引发一场 风险是创新的货币，但失控的风险会对企业构成生存威胁。为了实现生成式AI驱动的转型承诺，CEO必须确保新增的风险不会掩盖潜在的回报。 随着生成式AI的发展，各种新的威胁不断涌现—44%的受访CEO认为这项技术给社会带来了重大风险。57%的受访首席风险官(CRO)和受访首席财务官(CFO)表示其组织使用生成式AI将增加整体风险敞口。他们在考虑生成式AI投资时最关注的风险包括合规和监管风险(63%)、客户和员工隐私(58%)以及决策中的偏见和错误信息(56%)。超过一半的受访高管担心计算资源的成本和新型网络安全威胁。 60%的受访CEO表示正在考虑为生成式AI引入额外的护栏来控制风险。但许多企业并未落实到行动上。例如，在监管和合规风险方面，尽管63%的CRO和CFO表示关注这些风险，但只有29%的受访者表示已经有效缓解这些风险。68%的CRO和CFO表示在应对与生成式AI相关的风险方面准备不足。 技能短缺使形势变得更加复杂。70%的CRO和CFO表示，为了适应生成式AI的快速发展并不断应对新的风险，其组织需要引入当前所欠缺的专业知识。60%的CRO和CFO表示其组织目前采用的是临时性的生成式AI风险管理方法，仅适用于特定流程，或者根本不存在。 63% 但只有 的受访高管表示关注 监管和合规风险 2受9%高管表示已经 有效缓解这些风险。 1.创新+生成式AI 需要采取的行动 设的定风激险发阈创值新而非引发混乱 理解生成式AI引入的全域风险及其对现有风险状况的影响，然后明确愿意承担多大的风险来推动转型。确保CRO处于黄金平衡点（既不过于激进，也不过分回避风险），并为团队配备“恰到好处”的生成式AI工具，帮助他们灵活应对最不可预测的威胁。 定义生成式AI的整体风险容忍度。与CRO合作评估组织过去管理风险的成功经验、承受损失的财务能力以及风险对运营的潜在影响。为每个类别概述可接受的、可量化的风险水平。设定风险限度。 采取正式的生成式AI风险管理方法。为生成式AI计划建立结构化风险评估。与CRO合作建立适合组织需求且具有明确责任划分的AI治理结构。提供关于如何应对已识别的风险和漏洞的缓解策略指导。 建立生成式AI风险的持续监测和监督机制。由AI负责人来监控生成式AI的部署，进行风险评估，并向高管团队报告。使用AI助手整理风险数据以供AI负责人审查。促进与利益相关者的开放沟通和合作。 需要了解的事项 组织的声誉岌岌可危 一次失误就可能毁掉多年成功的品牌建设，对组织的声誉及其财务状况造成无法弥补的损害。 但许多企业领导者仍在冒险前行。84%的CRO和CFO表示声誉风险需要在董事会层面获得更多关注。但只有不到一半的受访组织表示已经制定了应对声誉风险的策略，这些风险包括环境和社会责任、不安全工作环境以及安全故障。只有40%的受访组织表示已经制定了应对合规缺陷的策略。 如果不对声誉风险加以控制，就可能会导致财务灾难。例如，2023年，39家银行因声誉风险而损失了超过1300亿美元的股东价值。去年，旅游业的安全事故、服务崩溃、网络中断也导致了销售额下降和市值损失。 声誉风险也带来机遇，因为有效管理声誉风险可以带来丰厚的回报。 对于具备声誉风险防护策略的企业，在声誉危机发生后的两周内，其股价要比市场水平高出5%。而对于有效传达声誉风险防护策略的企业，其股价溢价甚至达到了9%。 生成式AI既有可能加剧声誉风险，也有可能缓解声誉风险，具体取决于企业的管理水平。如果对生成式AI部署的管理不严格，伦理和偏见问题可能会对企业的声誉构成风险。但只要采用得当，生成式AI就可以帮助CEO有效管理威胁组织长期生存能力的声誉风险。 例如，生成式AI可以帮助团队提前识别潜在风险，实时监控社交媒体和在线情绪，并制定有针对性的沟通策略来应对挑战。尽管目前只有16%的受访组织正在使用生成式AI来应对声誉风险，但预计到2027年，64%的受访组织计划利用生成式AI来预测、监控和缓解可能影响其声誉的问题。 2027年，64%的受访组织 计监控划和利缓用解生声成誉式风AI险来预测、 —目前的这一比例仅为 16%。 需要采取的行动 防微杜渐，及时化解声誉风险 通过生成式AI监控和响应新出现的声誉风险，确保组织在利益相关者中保持良好的声誉。预测哪些风险最有可能加剧，并提出积极的风险缓解策略来控制紧张局势。 洞察公众认知及潜在风险。利用生成式AI分析社交媒体、新闻文章和客户评论，识别与组织相关的新兴趋势及对话。了解负面情绪背后的原因，并让CMO和法律团队制定声誉风险缓解策略。快速响应，维护积极的品牌形象和声誉。 及时处理环境和社会责任问题，防患于未然。利用生成式AI评估与供应链运营和环境因素相关的数据集，包括供应商绩效数据、运输日志、天气模式以及环境和劳动法规。 表明自己的态度。创建角色并利用AI助手制作和策划内容，展示您在各种问题上的立场。提前测试不同回应在各利益相关者群体中的反响。在社交媒体、营销材料、新闻稿、危机沟通和客户互动中保持一致的信息和语调。 需要了解的事项 未来，威胁会不断加剧 从地缘政治动荡、数据隐私合规到基于生成式AI的网络攻击，组织面临着各种可能在一瞬间引发风暴的风险。正因如此，企业领导者需要主动出击，防止威胁进入攻击范围。 事实上，80%的CRO和CFO表示其组织需要从防御性风险管理模式转变为前瞻性风险管理模式。许多企业已经认为，生成式AI的预测能力可以帮助他们实施更有效的主动战略。近一半的CRO和CFO表示，到2027年，前瞻性风险管理将成为其组织投资部署生成式AI的核心目标。 通过主动和预测性地使用生成式AI，组织可以释放出巨大的效益。受访CRO和CFO普遍表示，采用生成式AI进行风险管理的主要好处包括改进风险优先级排序(76%)和增强潜在风险跟踪(74%)。受访高管还预计生成式AI能够缩短评估监管变化的时间(73%)、加快组织对新兴风险的响应速度(70%)以及提高风险预测的准确性(69%)。 生成式AI还可以增强组织的市场地位，67%的CRO和CFO表示其组织需要迅速采用生成式AI进行风险管理，以跟上竞争对手的步伐。尽管如此，风险管理职能却是采用生成式AI最慢的领域之一，在13个职能中排名第12位。随着时间的推移，组织如果不加快步伐，可能很快会面临挑战。 67%的受访高管表示其组织需要迅速采用生成式AI进行风险管理，以跟上竞域之争一对手。的步伐—但到目前为止，风险管理职能是采用生成式AI最慢的领 需要采取的行动 时刻做好准备，应对百年一遇的风险 使用生成式AI对您的战略进行压力测试，为运营建立韧性。为风险管理人员提供所需的运营可视性，以保护价值并将潜在威胁转化为机遇。 调整风险雷达。使用生成式AI解码模糊数据，与复杂的网络图进行交互，并关注值得注意的异常现象。揭示由于复杂的相互依赖关系、新出现的威胁和微妙的模式变化而可能隐藏的风险。 防微杜渐。引入预测分析AI助手，识别可能性较低但影响严重的风险，帮助风险管理人员快速高效地采取主动措施来应对各类威胁。 持续重新校准。鼓励风险管理团队监控数据流并实时调整风险预测。生成合成数据来模拟潜在的风险场景。利用生成式AI加快风险识别和评估流程，并根据威胁形势的变化提出新的应对方案建议。 IBM商业价值研究院 风险管理 CEO生成式AI行动指南 本报告分析所依据的统计数据来自IBM商业价值研究院联合牛津经济研究院开展的两次专项调查。第一项调查于2024年5月至6月询问了200名美国首席风险官和首席财务官对生成式AI和风险的看法。第二次调查于2024年1月至3月更广泛地询问了全球5,000名高管对生成式AI的看法。其他参考信息包括SteelCityRe和CNN。 IBM商业价值研究院 IBM商业价值研究院(IBMIBV)成立二十多年来，凭借IBM在商业、技术和社会交叉领域的独特地位，每年都会针对成千上万高管、消费者和专家展开调研、访谈和互动，将他们的观点综合成可信赖的、振奋人心和切实可行的洞察。 需要IBV最新研究成果，请在ibm.com/ibv上注册以接收IBV的电子邮件通讯。您可以在Twitter上关注@IBMIBV，或通过https://ibm.co/ibv-linkedin在LinkedIn上联系我们。 访问IBM商业价值研究院中国官网，免费下载研究报告：https://www.ibm.com/ibv/cn ©CopyrightIBMCorporation2024 100020 国北际京商市业朝机阳器区（金中和国东）路有限20公号司院3号楼正邮大编中：心南塔12层 、徽标、和是 美国出品|2024年9月 “品和服务名称可能是IBM或其他公司的商标。以下Web站点上的 ”部分中包含了商标 IBMIBMibm.comWatsonInternationalBusinessMachinesCorporation在世界各地司法辖区的注册商标。其他产 CopyrightandtrademarkinformationIBM 的最新列表：ibm.com/legal/copytrade.shtml。 或服务。 IBM并不一定在开展业务的所有国家或地区提供所有产品 本更文改档。为自最初公布日期起的最新版本，IBM可能随时对其进行 本还文是档默内示的）保