生成人工智能与中央银行网络安全

BIS文件 编号145 生成人工智能与中央银行网络安全 作者：IñakiAldasoro，SebastianDoerr，LeonardoGambacorta，SukhvirNotra，TommasoOliviero和DavidWhyte 货币和经济部 五月2024 JEL分类：E58，G20，G28，K24。 关键词：人工智能，网络安全，中央银行，人力资本。 表达的观点是作者的观点，不一定是国际清算银行的观点。 该出版物可在BIS网站（www.bis.org）上获得。 ©BankforInternationalSettlements2024.Allrightsreserved.Briefexcerptsmaybereplicatedortranslatedprovidedthesourceisstated. ISSN1682-7651(在线) ISBN978-92-9259-762-7（在线） 生成人工智能与中央银行网络安全 IñakiAldasoro,SebastianDoerr,LeonardoGambacorta,SukhvirNotra,TommasoOliviero和DavidWhyte* Abstract 生成人工智能（geerativeAI）为加强中央银行的网络安全带来了新的机会，但也带来了新的风险 。我们使用来自主要中央银行网络安全专家的独特调查数据来阐明这些问题。回应显示，大多数央行已经在网络安全背景下采用或计划采用geeAI工具，因为感知到的好处大于风险。专家预计，人工智能工具将改善网络威胁检测并减少对网络攻击的响应时间。然而，GeAI也增加了社会工程攻击和未经授权的数据披露的风险。为了减轻这些风险并利用传统人工智能的好处，各国央行预计需要对人力资本进行大量投资，特别是在网络安全和人工智能编程方面具有专业知识的员工。最后，虽然受访者希望GeAI能够自动化各种任务，但他们也希望它能够支持人类专家担任其他角色，例如监督AI模型。 JEL分类：E58，G20，G28，K24。 关键词：人工智能，网络安全，中央银行，人力资本。 *IñaiAldasoro、SebastiaDoerr、LeoardoGambacorta、ShvirNotra和DavidWhyte：国际清算银行（BIS）。TommasoOliviero：那不勒斯费德里科第二大学和经济与金融研究中心（CSEF）。我们要感谢道格拉斯·阿劳霍、朱利奥·科内利、弗朗切斯科·保罗·兰道夫、费尔南多·佩雷斯-克鲁兹和申贤松提出的宝贵意见和建议。本文表达的观点是作者的观点，不一定是国际清算银行的观点。 1.Introduction 网络攻击变得更加频繁和复杂，金融部门一直是攻击最严重的行业之一（Aldasoro等人（2020，2022））。中央银行是网络攻击的自然目标，因为它们负责管理和监督金融部门的关键基础设施 （例如支付系统），并保护有关未来政策决策的机密信息（Doerr等人（2022））。为了强化这些担忧，美国财政部在2024年3月的一份报告中强调，生成人工智能(geerativeAI)是金融部门网络安全的一个新兴关键方面。1 代AI模型的出现，随着2022年末ChatGPT的推出而获得了巨大的动力，2为包括中央银行在内的金融部门的网络风险管理带来了机遇和挑战。一方面，随着GeAI工具变得更加复杂和使用更加广泛，网络攻击的频率和速度也将增加。由于更精细的算法,这样的攻击也可能变得更加复杂。具体威胁包括AI生成的社交工程、零日攻击和针对数据泄露的恶意软件攻击。将geAI用于内部组织目的以及潜在的网络防御也会带来直接攻击AI系统的风险。另一方面，GeAI可以通过更复杂的分析来处理越来越大的数据集，从而加强网络安全。它还可以帮助用户采用更主动的网络安全和欺诈预防策略。 鉴于这些发展，了解GeeAI对中央银行网络风险管理的影响至关重要。这个问题自然与央行工作人员的技能交织在一起。事实上，制定行为准则并确保全面了解与所有员工使用geerAI工具相关的风险和利益，对于维持高标准的网络安全至关重要。此外，人工智能工具的开发是否会补充或取代中央银行IT部门的人类专业知识，这仍然是一个正在进行的辩论的主题。 为了调查GenAI与网络风险之间的联系，我们借鉴了2024年1月在全球网络弹性组织（ GCRG）成员之间进行的一项临时调查结果。GCRG是网络弹性协调中心（CRCC）的举措之一 。3GCRG成立于2020年，是中央银行首席信息安全官（CISO）召集的论坛，讨论与网络安全有关的战术和战略问题。该调查收集了32位参与者的回复，深入研究了机会和 1见美国财政部(2024)。 2ChatGPT在不到一周的时间内就达到了100万用户，在不到一年的时间内就超过了1亿。 3CRCC是BIS的一个业务部门，负责领导中央银行社区的网络弹性和协作计划，由来自58个BIS成员中央银行的专家组成。 中央银行在采用通用人工智能工具方面看到的挑战。4四个广泛的考虑因素指导了调查的设计： 1)各国央行采用GeneAI的现状如何？ 2)中央银行如何评估与使用genAI相关的网络安全的好处和挑战？ 3)中央银行对“AI革命”及其对网络安全和数据保护的预期影响做好了准备？ 4)关于在网络安全中采用genAI的关键战略，道德和监管问题是什么？调查回应揭示了四个主要见解。 首先，绝大多数央行报告说，他们已经在使用或计划在未来几年这样做。受访者表示，geAI提供的好处多于风险，特别是在网络安全的特定方面，如网络威胁检测。然而，采用过程带来了重大挑战，最明显的是在人力资本方面的充足投资。事实上，超过一半的受访专家报告说，他们关于评估和采用人工智能战略的战略目前正在制定中。 其次，普遍的观点是，GeeAI在加强网络安全管理方面可以优于传统方法，但也引入了新的风险。这些好处在网络安全的特定领域得到了很大的体现，例如日常任务的自动化。AI有望降低与传统上由人类执行的耗时活动相关的成本。GeAI的其他好处包括增强的威胁检测，更快的网络攻击响应时间，以及对人类分析师可能不明显的新趋势，异常或相关性的学习。在风险方面，geAI可以在央行的网络安全防御中引入新的漏洞。与社会工程和零日攻击相关的风险以及未经授权的数据披露是最令人担忧的。 第三，我们的结果突出了IT和人力资本投资的关键方面。关于人力资本的两个关键维度来自调查。第一个涉及中央银行的所有员工，涉及采用geAI工具，这可能会因技术技能不足而受到阻碍 。事实上，大多数中央银行已经启用或计划使其员工能够访问基于云的通用人工智能应用程序，尽管在使用方面有一定的限制。这种方法旨在减轻与采用geerAI相关的风险，特别是关于员工当前对集成和操作AI系统的准备不足。第二个维度与中央银行IT部门积累的人力资本有关。人们一致认为，通用人工智能可以取代网络安全部门的工作人员来执行日常任务。这种转变可以释放资源，用于更具战略性的网络安全计划，从而提高生产力。此外，回应表明，即使GeeAI被视为一种可以更有效地处理运营任务的技术，它仍然需要人类的监督，以确保道德和准确的结果，并不断训练AI系统。因此，普遍关注。 4调查包括发达市场经济体和新兴市场经济体的中央银行的回应；出于保密原因，受访者的国籍是匿名的。 对人工智能方法和网络安全都有足够了解的人员的可用性有限。 第四，受访者之间的共识是，新一代人工智能系统将促进从被动方式向主动方式转变，以预测和消除威胁。一个关键的考虑因素是人工智能工具在网络安全中的自主性及其与人类互动的性质。对于适当的策略，数据科学家、人工智能安全分析师和人工智能主管被确定为新一代人工智能与现有安全工具无缝集成的关键专业角色。 这项研究的结果有助于正在进行的关于如何最好地使用人工智能来限制网络风险的讨论。Kashyap和Wetherilt（2019）提出了一套在监管金融部门网络风险时要考虑的原则。此外，巴塞尔银行监管委员会（BCBS）发布了有关银行网络风险管理最佳实践的指南（BCBS（2018，2021））。我们的结果表明，可能有必要采取其他措施来解释geerAI传播带来的潜在好处和挑战 。5此外，鉴于网络安全事件的成本估算存在巨大的不确定性和可变性（随着未来人工智能工具的 采用，这种情况可能会增加），因此需要为所有中央银行建立共同的指导方针和实践。此外，现有的IT员工可能没有充分准备好处理与GeerAI相关的快速和颠覆性创新。对于大多数央行来说，预期的“技能差距”可能很难弥补，因为劳动力供应有限，新员工的成本很高。6解决这个问题对于中央银行的前进至关重要。 越来越多的工作研究了包括金融机构和加密在内的私营部门网络威胁的作用和影响（Boissay等人（2022）），但很少有研究研究对中央银行的影响。Doerr等人（2022）的工作是一个例外，他们通过利用2021年进行的一项临时调查来分析中央银行的网络风险问题。我们的贡献是通过扩大参与调查的中央银行的样本，并纳入有关网络安全管理的新证据，特别是关于新人工智能工具的出现与中央银行工作人员对这种破坏性技术进步的准备之间的关系，扩大了分析的范围。 我们的论文还有助于关于引入geeAI工具对公共和私营公司的组织结构的预期影响的更普遍的辩论。文献强调了劳动生产率的预期提高，特别是在需要认知能力的任务中（Bryjolfsso等（2023 ）；Noy和Zhag（2023）；Peg等（2024）），尽管各部门的影响可能大不相同（Felte等（2021））。本文通过考虑中央银行网络安全专家的观点，探讨了geAI对生产率的影响。我们的发现强调，新一代人工智能工具有望提高现有网络安全实践的效率，从而提高专业人员的生产力，特别是在以下方面。 5例如，这可能包括为员工制定行为准则，以确保信息保护，以及促进人工智能模型的透明度和问责制，以及遵守国际法。 6例如，企业战略组织（ESG）和信息系统安全协会（ISSA）的2020年报告显示，70％的网络安全专业人员表示其组织存在网络安全技能短缺，超过60％的人提到安全职位空缺至少三个月（请参阅ESG和ISSA（2020））。 常规和操作任务。同时，网络安全专家并不希望他们的角色被通用AI应用程序取代；相反，越来越重视人类参与与AI驱动的活动的监督和培训有关的任务，以确保道德和准确的结果。 本文的其余部分组织如下：第2节提供了GeeAI的最新发展及其如何影响网络安全的背景。第3节介绍了有关中央银行采用人工智能的调查结果。第4节详细介绍了与采用geAI工具进行网络安全管理相关的感知机会，风险和挑战。第5节审查了与IT和人力资本投资问题相关的回答。第6节讨论了未来的前景，并提供了一些监管见解。第七节结束。 2.GenAI和网络风险 GeAI可以被视为机器学习的最新进展。从广义上讲，机器学习包括一组旨在从数据中提取信息以进行预测的技术。它可以被视为传统统计和计量经济学技术的产物，尽管它不依赖于预先指定的模型或统计假设，如线性或正态。将机器学习模型拟合到数据的过程称为训练。成功训练的标准是预测以前看不见的（“样本外”）数据的结果的能力，无论模型如何预测它们。 神经网络可能是机器学习中最重要的技术，甚至在最新一代的模型中也有广泛的用途。它们的主要构建块是人工神经元，它们采用多个输入值，并以非线性方式转换它们以输出单个数字-类似逻辑回归。人工神经元被组织以形成可以堆叠的层序列:第一层的神经元获取输入数据并输出激活值 。随后的层将前一层的输出作为输入，对其进行变换并输出另一个值，依此类推。这样，与人脑中的神经元类似，人工神经元的输出值类似于传输到其他神经元的电脉冲。网络的深度是指层数。确定跨神经元和层的连接强度的权重和偏差统称为参数。在训练期间迭代地改进这些参数。具有更多参数的更深入的网络需要更多的训练数据，但预测更准确。神经网络是人脸识别或语音助手（如Siri或Alexa）的幕后黑手，也是人