执行摘要
金融机构多年来一直在使用人工智能（AI），特别是客户支持聊天机器人、欺诈检测（AML/CFT）和信贷/保险承保。近年来，AI 技术的显著改进和可访问性加速了其在金融领域的应用。金融机构正在大力投资 AI，预计到 2026 年，金融行业在 AI 上的支出将达到 970 亿美元，其中大部分归因于通用人工智能（Gen AI）的预期更广泛采用。
AI 的广泛使用有可能为金融部门带来变革性的好处，但也可能加剧现有风险，如模型风险、数据相关风险、微观审慎风险、行为风险和宏观审慎风险。国际和国家当局已经引入了跨部门的 AI 特定指南，概述了围绕可靠性和稳健性、问责制、透明度、公平性和伦理道德等共同主题的政策预期。随着对生成式 AI 的关注增加，可持续性和知识产权也在最新的 AI 指南中得到了涵盖。
金融机构使用 AI 可能会带来一些独特的挑战，因此可能需要特定领域的监管或监督指导。这些挑战包括：
- 金融机构的董事会和高级管理层最终治理框架。
- AI 专业知识和技能的缺乏。
- 模型风险管理，特别是由于缺乏 AI 模型的可解释性。
- 数据治理和管理。
- 新的/非传统的参与者和新的商业模式/安排。
- 云和 AI 服务提供商的监管范围。
金融部门的 AI 用例概述
金融机构正在大力投资 AI，预计到 2026 年，金融行业在 AI 上的支出将达到 970 亿美元。AI 用例包括：
- 聊天机器人： 用于客户支持，提供 24/7 支持，并执行金融交易。
- 欺诈检测： 包括 AML/CFT 和支付欺诈检测，提高准确性和效率。
- 承保： 用于信用评分、抵押品估值和综合评估非结构化信息，以更准确地预测风险和设定保费。
AI 用例带来的风险包括：
- 微观审慎风险： 如信用风险、保险风险、模型风险、操作风险、声誉风险。
- 行为或消费者保护风险： 如误导销售或提供错误建议。
- 宏观审慎或金融稳定风险： 如系统性风险。
跨部门 AI 特定指南概述
多边团体和国际组织正在优先考虑发展 AI 政策，例如 G20 和经合组织 AI 原则。许多司法管辖区已经出台了不同类型的相关政策，这些政策要么专门针对 AI，要么在数据保护、网络安全和消费者保护要求等背景下涵盖 AI。选择前者的司法管辖区在很大程度上依赖于非约束性基于和基于规则的方法。
跨部门 AI 特定指南中包含的共同主题是：
- 透明度和可解释性： 要求 AI 系统对其输出和过程提供支持证据或理由，并以简单易懂的信息形式呈现。
- 治理和问责制： 强调人为干预的作用，并要求在模型部署前后保存相关文件或信息。
- 可靠性/健全性： 要求定期独立测试或监测，以确认模型表现符合预期。
- 公平、道德和安全： 要求将社会价值观，包括公平性和道德标准，融入 AI 系统的设计、开发和部署中。
- 数据隐私和安全： 要求个人在收集、使用和保留个人数据时给予同意，并保护个人信息。
- 消费者补救和 AI 素养/意识： 要求金融机构为客户提供查询、申诉和请求审查 AI 驱动决策的渠道。
对金融部门实施跨部门人工智能指导的实际问题
金融监管机构可能需要审查现有法规，并在必要时发布澄清、修订甚至新的法规，以应对 AI 带来的独特挑战。这些挑战包括：
- 治理和问责制： 需要明确分配角色和责任，并规定人类干预的作用。
- AI 专业知识和技能： 需要确保金融机构拥有必要的专业知识和技能来有效开发、部署和管理 AI 系统。
- 模型风险管理： 需要密切关注模型风险，特别是由于缺乏 AI 模型的可解释性。
- 数据治理和管理： 需要评估现有法规是否足够，或者是否需要加强，或是否有必要发布针对任何 AI 数据治理和管理相关问题的指导意见。
- 新的/非传统的参与者和新的商业模式/安排： 需要评估与新/非传统金融机构提供金融服务相关的法规是否需要调整。
- 云和 AI 服务提供商的监管范围： 需要更直接的方法来管理第三方 AI 服务提供商带来的风险。
结论
AI 的更广泛采用有可能为社会带来变革性的好处，但也可能加剧现有风险。跨部门 AI 特定指南中的共同主题已经在现有的金融监管中得到了广泛覆盖，因此单独制定全面的 AI 监管的必要性不大。然而，AI 在实施现有金融监管方面提出了一些独特挑战，因此可能需要特定于 AI 的监管或监督指导。金融监管机构需要审查现有法规，并在必要时发布澄清、修订甚至新的法规，以应对 AI 带来的独特挑战。
