人工智能（AI）国际金融监管初探

人国工际智金能融（监管AI）初探 毕马威金融行业研究中心2024年09月 人工智能（AI）国际金融监管初探 执行摘要 随着经济社会的发展与科学技术的进步，人工智能已经被广泛应用于工作生活的各个领域。各国纷纷将人工智能纳入国家战略，期待其为经济发展提供新的增长点与动能。特别是2022年Chat-GPT的问世，向世界展现了人工智能巨大的发展潜力与应用前景。但同时，人工智能技术也可能带来系统性歧视、对数据和隐私权的侵犯以及信息茧房等问题。为推动技术以人为本，有效应对潜在风险，各国开始立足于自身的技术优势与资源禀赋，采用不同的人工智能治理与监管路径。 在吸收国际组织研究成果的基础上，欧盟率先推出人工智能伦理规范、法案与框架公约等，利用治理格局优势地位积极推动国际监管，并借助欧盟统一市场的力量，通过产业链向全球施加影响。英国采取了比较灵活的监管路径，并利用地缘优势与脱欧后的自由空间，优先促进技术的创新与发展，吸引科 1 技公司并促进产业转化。以美国、中国、新加坡为代表的具有人工智能技术优势的国家，则在国家规划的整体引领下布局促进技术发展与产业培植，兼顾发展中可能产生的风险与问题，积极推动人工智能的治理与监管。 本文立足于全景扫描，在收集研读人工智能相关文献的基础上，对国际组织、欧盟、英国、美国、中国等具有代表性主体的监管体系进行了分析，并对具有里程碑意义的文件及内容要点进行了整理与解读。同时，我们亦结合各国家/地区金融领域的人工智能监管动态进行了总结、分析与展望，并对金融机构人工智能技术应用提出了合规行动建议。 ©2024毕马威华振会计师事务所(特殊普通合伙)—中国合伙制会计师事务所，是与毕马威国际有限公司(英国私营担保有限公司)相关联的独立成员所全球组织中的成员。版权所有，不得转载。 ©2024毕马威华振会计师事务所(特殊普通合伙)—中国合伙制会计师事务所，是与毕马威国际有限公司(英国私营担保有限公司)相关联的独立成员所全球组织中的成员。版权所有，不得转载。 目录03 人工智能监管概览 05主要国家/地区人工智能监管 05一、国际组织 1.1国际组织体系概览 1.2重要监管文件分析 1.3金融领域的人工智能监管与影响 10二、欧盟/欧洲 2.1欧盟/欧洲体系概览 2.2重要监管文件分析 2.3金融领域的人工智能监管与影响 15三、英国 3.1英国体系概览 3.2重要监管文件分析 3.3金融领域的人工智能监管与影响 21四、美国 4.1美国体系概览 4.2重要监管文件分析 4.3金融领域的人工智能监管与影响 27五、中国 5.1中国体系概览 5.2重要监管文件分析 5.3金融领域的人工智能监管与影响 36结语 ©2024毕马威华振会计师事务所(特殊普通合伙)—中国合伙制 ©2024毕马威华振会计师事务所(特殊普通合伙)—中国合伙制会计师事务所，是与毕马威国际有限公司(英国私营担保有限公司)相关联的独立成员所全球组织中的成员。版权所有，不得转载。 国际人工智能监管体系概况 人工智能监管概览 根据毕马威收集的全球人工智能监管相关文献分析，国际上人工智能立法较为活跃的国家与地区有欧盟、美国、英国、中国、新加坡以及香港等。从已发布的文件来看，各区域/国家普遍采取了促进创新，以人为本，以风险为导向的原则来实施或推进人工智能的监管，具有强制约束力的监管规则较少，仅占18%（且一半为美国州级的立法），多数采取了原则、伦理、指南、讨论文件及报告等更为软性的形式（图1）。 从各区域/国家的人工智能立法特点来看，国际组织积极推出人工智能原则、伦理规范，并通过宣言、倡议、联合声明等方式推动全球整体的人工智能治理与伦理约束。欧盟的人工智能监管体系更为完整，全面覆盖规划、原则、伦理、框架、指引、监管规则等各种类型；欧盟同时积极参与国际社会人工智能监管规则的制定，其推出的《欧盟人工智能法案》为全球首部人工智能领域的全面监管 图1：国际人工智能监管相关文献分布情况 法规，《人工智能与人权、民主和法治框架公约》为全球首个关于负责任地使用人工智能的具有法律约束力的国际条约，具有较强的国际影响力。 英国的人工智能监管体系非常有特点，它整体采用了一种政府引领，以部门为主导、有利于创新的做法来实施监管。它采用了相对软性的方式，不主张仓促立法与推出强制规范，文件多以软性的规划、框架、指南等形式颁布，同时英国监管机构还实施了大量研究并与社会各界人士广泛探讨，以保持对人工智能实践与风险的敏锐度。 美国的人工智能监管立法具有州领跑联邦政府的特点，一批州级的法律规范已率先落地，联邦部门的立法在政府执行令的统一引导下逐步推进，但尚未正式推出具有强制遵循意义的法律规范。 18% 监管规则/立法蓝图/规划原则/伦理道德 数据来源：毕马威自行收集整理。数据收集期间为2017年7月至2024年7月底 13% 12% 6% 治理/风险框架指南讨论文件及其他 人工智能监管概览 中国较早就开始实施人工智能规划及治理活动，虽然已出台的文件数量不多，但种类较为丰富，已涵盖发展规划、监管规则、治理原则、伦理规范、倡议与宣言等。同时，中国也积极参与国际社会的人工智能监管治理，推动人工智能产业发展并构建自身的国际影响力。 从金融领域来看，目前金融监管机构对于人工智能监管的整体立法并不十分活跃，各区域/国家金融监管部门主要根据整体性的人工 智能监管政策与要求，在各自的职能领域针对人工智能应用进行规范。但随着上位法及人工智能专门法规的陆续出台，相关金融监管机构亦在酝酿人工智能领域的金融监管要求。 以下我们将选择国际组织、欧盟、英国、美国等四个人工智能监管领域具有代表性与领先意义的主体开展分析。我们亦对中国人工智能监管的进展与动态进行了总结，后续将单独撰写与国际实践比较分析的专题文章。 主要国家/地区人工智能监管 一、国际组织 1.1国际组织体系概览 国际组织较早就开始了关于人工智能的探讨，从其目前已发布的文件看，均为不具有强制约束力的原则、伦理建议、倡议宣言等，旨在推动相关方以人为本，以负责任的方式设计、开发和应用人工智能。相关内容为不同地区、国家的人工智能立法提供了有力的支持与丰富的借鉴，包括标准定义、原则导向、伦理规范、工具方法等。 2019年，世界经济合作组织（OECD）与二十国集团（G20）先后推出了《人工智能原则》，但原则并不具有约束力。2021年，联合国教科文组织（UNESCO）发布《人工智能伦理问题建议书》，对人工智能涉及的伦理问题进行了深入探讨，并提供了评估工具与政府行动建议。2023年，七国集团（G7）领导人发布《就广岛人工智能进程的联合声明》，并配套推出了指导原则与行为准则。2023年11月，首届全球人工智能（AI）安全 峰会上，包括中国、美国、欧盟在内的28个国家，签署了《布莱切利AI宣言》，这也是是全球第一份针对人工智能这一快速新兴技术的国际性声明（图2）。 1.2重要监管文件分析 以下选择三份重要的国际组织人工智能监管文件进行分析。 OECD《人工智能原则》和G20《人工智能原则》（2019年） 在全球层面，从国际组织发布的人工智能相关文件来看，较为重要且被广泛引用的两份文件是世界经济合作组织（OECD）于2019年5月发布的《人工智能原则》（首个人工智能政府间标准），以及二十国集团（G20）于 鉴了前者的提议 2019年6月发布的1（《人图工3）智。能在原后则续》各，地后区者借、国家、组织发布的人工智能监管文件中，关 图2：国际组织人工智能相关文件 信息来源：毕马威自行收集整理。 1部分内容引用自FSIInsightonpolicyimplementationNo35,HumanskeepingAIincheck-emergingregulatoryexpectationsinthefinancialsector。 主要国家/地区人工智能监管 图3：OECD和G20提出的人工智能原则 信息来源：毕马威根据OECD《人工智能原则》和G20《人工智能原则》整理。 于人工智能的标准定义、原则等，均吸收利用了两份文件的成果。 《人工智能伦理问题建议书》（2021年11月） ——首个全球级的人工智能伦理标准 2 2021年11月，联合国教科文组织（UNESCO）采纳了一套关于人工智能伦理的建议《人工智能伦理问题建议书》（以下简称建议书），由193个成员国一致通过，这是首个全球级的人工智能伦理标准。它建议会员国在自愿基础上适用建议书的各项规定，特别是根据各自国家的宪法实践和治理结构采取适当步骤，包括必要的立法或其他措施，依照包括国际人权法在内的国际法，使建议书的原则和规范在本国管辖范围内生效。《建议书》详细讨论了其目标、价值观、原则以及政策领域 2部分内容引用自UNESCO，《人工智能伦理问题建议书》中文版。 的行动（图4），并提供了两项核心工具，准备状态评估（readinessassessmentmethodology）与伦理影响评估（ethicalimpactassessment）。 准备状态评估工具（RAM）包括一系列定量和定性问题，旨在收集与一个国家的人工智能生态系统相关的不同方面的信息，包括法律和监管、社会和文化、经济、科学和教育以及技术和基础设施方面。其中每个维度都有一系列定量和定性评估问题，使RAM有别于其他现有的准备状态评估工具。其问题设置主要覆盖六大维度，包括通用维度、法律维度及其8个细分维度、社会与文化维度及其5个细分维度、科学与教育维度及其10个细分维度、经济维度及其3个细分维度，以及技术与基础设施维度及其4个细分维度。其中法律 主要国家/地区人工智能监管 维度包含人工智能政策与监管细分维度（图5），由于与本文研究主题高度相关，详细列示以供参考。 图4：UNESCO《人工智能伦理问题建议书》提出的价值观与原则 伦理影响评估工具（EIA）考虑了设计、开发和部署人工智能系统的整个过程，包含一系列问题以及评估表格等，可以用于人工智能系统向公众发布之前和之后对其风险及影响 进行评估。伦理影响评估工具最初设计目的是帮助参与人工智能系统采购的公共部门官员，为他们提供一系列问题，以确保他们购买的人工智能系统符合《建议书》中规定的伦理标准。然而，它也可以被开发人员或私营部门和其他地方的其他人使用，以促进人工智能系统符合道德的设计、开发和部署。 信息来源：毕马威自根据UNESCO《人工智能伦理问题建议书》整理。 主要国家/地区人工智能监管 图5：准备状态评估工具人工智能政策与监管评估指标 信息来源：毕马威自根据UNESCO《人工智能伦理问题建议书》整理。 《七国集团领导人就广岛人工智能进程的联合声明》（2023年10月） 2023年10月30日，七国集团（G7）领导人就“广岛人工智能进程”发表联合声明，强调要开发先进的人工智能系统，充分利用生成式人工智能带来的机遇和潜力，打造以人类为中心的包容的人工智能治理框架。基于联合声明，七国集团领导人当日还发布了《广岛进程先进人工智能系统开发组织国际指导原则》和《广岛进程先进人工智能系统开发 组织国际行为准则》3。文件提出了11项与风险相匹配的原则： •在先进人工智能系统的整个开发过程中，包括在部署和投放市场之前，采取适当的措施，以识别、评估和减轻整个人工智能生命周期的风险； •在部署及投放市场后，识别和减轻漏洞，并在适当的情况下识别滥用事件和模式； 3内容引用自中国国际科技交流中心，科技动态|七国集团领导人就“广岛人工智能进程”发表联合声明。 主要国家/地区人工智能监管 •公开报告先进人工智能系统的能力、局限性、适当和不适当使用的领域，以支持确保足够的透明度，从而有助于加强问责制； •致力于在开发先进人工智能系统的组织之间，包括与行业、政府、民间社会和学术界，实现负责任的信息共享和事件报告； •制定、实施和披露基于风险的人工智能治理和风险管理政策，包括隐私政策和缓解措施，特别是针对开发先进人工智能系统的组