2024年重塑生成式AI在银行业角色洞察报告：弥合炒作与现实之差

弥合炒作与现实之间的差距 内容 执行摘要 生成式人工智能解密：银行业务中的角色初探人工智能应用风险：谨慎前行沉迷监管迷宫：人工智能合规之旅 第一章：平衡炒作、风险与监管现实 第二章：从概念验证到企业级人工智能实施 一种面向GenAI战略扩展的整体维度方法 从生成式AI实施中实现价值 第三章：银行领域规模化部署生成式人工智能的采用框架 银行业应用生成式AI的扩展关键考量 NTT DATA的生成式AI银行框架 金融机构已部署和受益于人工智能与机器学习的五种方式 第四章：超越POC的实际应用案例 参考文献 执行摘要 人工智能在银行业并非新鲜事物，但它正在改变。 生成式人工智能正引领银行业未来。 迄今为止，人工智能（AI）领域一直令人惊叹，自2023年初以来，生成式人工智能（GenAI）更是成为焦点。银行领导者纷纷加入其中，在全年间启动了众多试点项目。起初，银行们明智地将GenAI试点项目重点放在了提升生产力上。然而，这项技术有潜力显著改变工作职能和客户互动方式，甚至可能催生出全新的商业模式。 随着银行踏上这段征程，在不断演变的科技创新与监管变化的地形中，适应性与革新至关重要，方能收获其益。 生成式人工智能（Gen AI）带来新机遇，但也伴随着新风险。对于金融机构而言，生成式人工智能的风险管理仍处于早期阶段，且受法律义务未来不确定性的影响，这些义务可能因地域而异。尽管如此，银行迟早需要采取一些“无后悔”行动，以应对即将到来的法律变化。银行机构必须了解其法律责任，并据此重新设计其人工智能风险、治理框架和控制措施，从而形成一种双轨并行的策略，需要在创新与风险管理之间保持微妙的平衡。如果处理得当，这将使组织在快速变化的监管环境中占据竞争优势。最终，为了满足投资者、监管机构和其他利益相关者的期望，等同于建立信任。 在区分术语或“炒作”与真正的价值提升创新的同时，银行机构当前面临的关键问题不仅是如何以及在哪里最有效地使用生成式人工智能（GenAI），还包括如何确保其应用在组织内得到全面采用和扩展。将生成式人工智能成功融入银行机构需要系统化和战略性的方法。这涉及转变运营模式和客户体验，培养积极且好奇的员工队伍，保障数据安全，并实施适当的监管措施。本白皮书介绍了NTT DATA提出的生成式人工智能采用框架，旨在赋能银行组织，使其不仅能够跟上步伐，更能在这一快速发展、具有突破性的领域实现企业级的AI应用。 撇开炒作不谈，一些具有变革性的通用人工智能创新正开始出现。 第一章：平衡炒作、风险与监管现实 生成式人工智能解密：银行业务一窥 银行业有望受到生成式AI带来的最重大影响之一，其相当大比例的收入可能因此发生转变。 银行机构正日益认识到生成式人工智能在整个价值链中所带来的巨大益处。这项技术每年有潜力贡献2000亿至3400亿美元，相当于营业利润的9%至15%，其中大部分来自生产力的提升。 银行机构面临的关键问题已从“如何以及在哪里最有效地使用生成式AI”转变为“如何确保这些应用在其组织内得到全面采纳和扩展”。很少有新技术的演进速度如此之快。这不可避免地激发了组织内部的紧迫感，导致了一场为开发此类AI而狂热竞赛。 区分音乐与噪声 将通用人工智能（GenAI）应用于银行机构，必须采取全面有序的方法，考虑到所涉及任务的复杂性和广度。正确的实施与避免夸大其能力或陷入“炒作”现象密切相关，后者可能对业务实践构成重大风险。 首先，消除围绕生成式人工智能（GenAI）的错失恐惧症（FOMO）观念至关重要。尽管它具有变革潜力，但生成式人工智能并非银行家所有问题的万能药。暂且放下追逐潮流，有助于获得更宏观的视角，并揭示新兴技术随时间推移如何汇聚和关联，最终为当下的行动提供更好的动力。 在喧嚣之中停下来，全面把握生成式人工智能（GenAI）的能力，以及它所展现的机遇与风险，至关重要。借鉴过往创新技术的经验，银行应评估生成式人工智能、现有技术，或两者的结合，哪一种是最适合应对特定挑战和把握机遇的解决方案。 采用人工智能的风险：谨慎前行 生成式人工智能对银行机构具有巨大的潜在价值，有望革新效率并提升账户持有人的数字银行体验。然而，将生成式人工智能整合进来对银行来说构成了双重挑战：既要保持创新，又要规避风险。 合理的护栏 = 可信赖的提供者 当前的错误举动可能在未来立即造成高昂的代价：根据欧盟人工智能法规的提议，组织可能面临高达年全球收入7%的罚款。对人工智能处置不当不仅会导致法律和财务损失，还会造成声誉损害。随着对人工智能的负面认知日益普遍，公众对其伦理影响和潜在风险的担忧也加剧了。解决这些监管和伦理问题对于建立信任和可靠性的基础至关重要。 塔台进近：关键行动线 Data 人工智能的好坏取决于其训练数据。随着人工智能算法变得越来越复杂，它们需要庞大的数据集，从而引发了伦理和隐私方面的担忧。其中最主要的是偏见问题：在有偏见的数据上训练的模型会产生有偏见的结果，例如在保险定价方面。 知识产权陷阱 训练数据和模型输出可能带来重大的知识产权风险，可能侵犯版权、商标权、专利权及其他受法律保护的材料。 模型 ESG风险后果 人工智能通常以“黑箱”形式运行，其决策往往难以审计或解释。这种不透明性在欺诈检测等领域尤为明显，例如交易可能被标记为欺诈而缺乏明确理由，因此需要强大的审计机制和可解释性工具。 训练和运行大型人工智能模型（如GenAI大语言模型）需要大量能源消耗，并可能导致显著的碳排放，这可能超出环境、社会和治理（ESG）承诺[3]。对于银行而言，在创新与可持续性之间取得平衡至关重要，确保其人工智能计划与其ESG目标保持一致。 治理 人工智能可能因训练数据不完善或工程决策而表现出算法偏见，这种情况在缺乏人工监督的自主决策中往往会加剧。这凸显了建立强有力的治理机制以明确角色和责任、弥补技能和专业知识差距的必要性，从而确保人工智能应用中的公平性和问责制。 安全：双刃剑 虽然先进技术能够提升网络攻击的检测和预测能力，但在企业应用中，它也引入了新的攻击途径，从而引发了安全方面的担忧。 穿越监管迷宫：AI领域的合规之旅 在银行业务中实施人工智能面临着诸多法律挑战，特别是在数据管理和人工智能生成内容监管方面。鉴于该行业受到高度监管，企业了解其在人工智能法规方面的义务至关重要。 人工智能发展迅速，给规则制定者带来了压力，要求其保持同步。当前的挑战在于，在理解并控制技术安全的同时，还要保留其潜在益处。银行业具体的AI监管仍在发展中，随着政府和监管机构努力定义合适的管控环境，所采取的方法往往零散且不协调，导致在合规要求和银行可能面临的法律责任方面存在重大不确定性。 各国正以不同方式应对全球人工智能监管。例如，欧盟通过现有数据保护和网络安全法律来实施广泛的AI监管；而美国则依赖特定行业的法律以及一般性原则或指南。将生成式人工智能整合到银行运营中，需要密切关注这些不断发展的监管考量。 2023年，全球范围内在人工智能监管领域涌现出五位领导者。 欧盟 联合王国 欧盟人工智能法案，作为首个针对在欧盟市场开发、分销和进口的所有人工智能系统实施的风险分级监管措施，将在2024年6月通过后享有为期2年的宽限期。除了人工智能法案，其他领域内的重要人工智能立法也在推进中。欧洲数据战略，包括数据法案和数据治理法案，同样在塑造欧洲金融领域的人工智能格局。 英国的人工智能监管政策文件概述了一个基于五大原则的跨部门人工智能监管框架：安全、透明、公平、问责和可争端性。该框架在支持创新与现有的部门特定法律之间寻求平衡。2024年4月，金融行为监管局、银行监管局和英格兰银行发布了其人工智能监管策略，以回应该文件。 美国 中国 美国已针对特定人工智能应用场景制定了垂直立法，并发布了多项联邦指南。2022年，白宫发布了一项非约束性的人工智能权利法案，以指导人工智能系统的设计和部署。2023年拜登行政命令指示各机构制定具体的AI法规和干预措施。美国人工智能标准的主要参与者包括NIST和FTC。 自2022年以来，中国实施了三项影响全球标准的关键措施：2021年《互联网信息服务算法推荐管理暂行规定》、2022年《互联网信息服务深度合成管理暂行规定》以及2023年《生成式人工智能服务管理暂行办法》。 新加坡 2024年1月，新加坡金融管理局（MAS）作为一项新举措的一部分，推出了全球首个面向银行的生成式人工智能风险管理框架，旨在识别生成式人工智能为该城邦金融部门带来的机遇与风险。在此基础上，2024年5月，新加坡政府发布了一个扩展框架，该框架纳入了生成式人工智能领域的新兴原则、关注点和技术发展。 承认共同点 确实，不同的司法管辖区会采取与其文化和法律框架相一致的独特监管策略，然而，存在一些核心的趋同领域，它们是理解监管的基础支柱。 核心原则： 行业特定： 一种模式逐渐显现：人工智能监管与经合组织（OECD）定义并由二十国集团（G20）认可的人工智能核心原则相一致。这些原则包括可持续发展、以人为本的价值观、公平、透明度、问责制、稳健性、安全性和风险管理。 由于人工智能应用场景的多样性，一些司法管辖区正强调制定针对特定行业的规则，以补充通用型人工智能法规。因此，国家主管当局必须确保金融机构遵守新的人工智能治理和风险管理要求与标准。 国际合作： 私营部门合作： 人工智能监管沙盒在关于人工智能监管的持续讨论中至关重要。这些沙盒使私营部门能够与政策制定者合作，制定促进安全、合乎道德的人工智能的规则。它们也为考虑高风险人工智能创新的潜在影响提供了框架，在这些创新中，需要更密切的监督。 各国正日益在全球范围内联合起来，应对人工智能系统带来的安全与风险。通过跨国联盟、联合研究计划以及协调的政策努力，各国正携手合作，创建一套统一的人工智能监管方法，该方法促进道德标准、透明度和问责制。 追逐移动的目标 随着围绕人工智能的法规不断进步，银行需要采取积极措施，为日益严格的审查做好准备。 分析并监控内部及外部活动 组织需要将关注点超越个体监管努力，转而审视影响金融领域的大趋势。例如，在整合生成式人工智能（GenAI）时，银行优先考虑数据隐私、安全、准确性和可靠性，这源于对大型语言模型（LLMs）中幻觉和偏见问题的担忧，以及银行业敏感数据的大量存在。同时，许多组织低估了受不同法规影响的系统多样性，这凸显了建立人工智能清单的重要性。 对于银行领导者而言，理解如何平衡AI的巨大潜力与风险至关重要。 理解并相应采取行动 企业必须明确其法律义务，建立合规政策，并应对新兴的伦理问题。在人工智能普遍应用的金融领域，监管机构必须评估相关法规的充分性。例如，根据欧盟《人工智能法案》，对基于人工智能的信用评估和反洗钱程序等高风险系统有严格要求，同时通用型人工智能系统（包括生成式人工智能应用）也适用新的要求。从董事会到运营层，建立清晰的治理和控制机制，实施强有力的AI风险管理至关重要：如今投资于AI治理，未来可以节省大量监管整改的精力。 建立负责任的AI生态系统 认识到合法性并不总是与伦理相符，这突显了在人工智能中优先考虑伦理考量的重要性。这一责任涉及以下几个关键行动：建立伦理委员会以提供指导、确保在管理人工智能风险时明确责任归属、将伦理考量融入产品和服务整个生命周期，以及为员工实施全面的培训和意识提升计划。这些步骤对于在组织内部培养负责任的人工智能使用文化至关重要。 加曲：拥抱简约 通往负责任的AI之路往往变得错综复杂。虽然拥抱简单看似矛盾，但可以带来更透明的AI系统，从而更易于理解和治理。这种方法确保了与道德标准和社會價值的協調，同時促進了錯誤和偏見的識別與糾正，增強了責任追究。 第二章：从概念验证到企业级人工智能实施 2023年全年，几乎所有银行机构都专注于识别用例和开展概念验证（POC）。2024年，他们应从实验阶段过渡到在整个企业范围内系统性地追求价值。 要充分释放生成式AI的价值，仅增加投资是不够