生成式人工智能治理：塑造共同的全球未来

/ 33AI治理联盟简报系列2024 生成式人工智能治理：塑造集体全球未来 与埃森哲合作 GettyImages,MidJourneyImages: 内容 高管总结3引言4 全球人工智能治理发展进展 1.1随着发展的人工智能治理矛盾6 2国际合作与司法管辖权互操作性8 2.1国际协调与合作8 2.2兼容的人工智能标准9 2.3灵活的监管机制9 3促进公平获取和包容性全球人工智能治理10 3.1结构限制和权力失衡10 3.2全球南方在人工智能治理中的纳入11 结论12 贡献者13 脚注17 免责声明 本文件由世界经济论坛发布，作为对项目、洞察领域或互动的贡献。其中所表达的研究发现、解读和结论是经过世界经济论坛协助和认可的协作过程的结果 ，但并不必然代表世界经济论坛的观点 ，也不代表其全体成员、合作伙伴或其他利益相关者的观点。 ©2024世界经济论坛。保留所有权利 。本出版物之任何部分不得以任何形式或通过任何手段进行复制或传输，包括影印和录音，或通过任何信息存储和检索系统。 塑造一个集体全球未来的生成式AI治理：2 执行摘要 构建一个繁荣和公平的全球未来，依靠人工智能，需要国际间的合作、司法管辖的互操作性以及包容性治理。 全球人工智能（AI）治理格局复杂且迅速演变 ，考虑到技术进步的速度和广度，以及社会、经济和政治影响。本文考察了世界各地对人工智能的各种国家治理响应，并确定了两个比较领域： –防止大幅度 兼容标准：在标准之间存在差异的情况下，相关国家机构应增加兼容性努力并与国际标准化项目进行合作。为了国际标准得到广泛采用，它们必须反映全球参与和代表性。 1.人工智能治理可能 治理方法：关注风险、规则、原则或结果；以及是否已经概述了国家人工智能战略。 –保持 灵活的监管机制：随着人工智能快速发展的能力，对创新和治理框架的投资应敏捷且适应性强。 2.人工智能治理 监管工具：可能基于现有法规和监管机构，或基于新监管工具的开发。 公平地让全球南方参与人工智能开发的各个阶段 、部署和治理，对于创新至关重要，同时也有助于实现该技术的社会经济利益并在全球范围内减轻危害。 人工智能治理的复杂性，生成式人工智能的到来引发了若干治理争论，其中两个在本文中得到了突出强调： 1.如何优先处理当前人工智能的危害和潜在风险。 2.如何在从开放到封闭的访问谱系中考虑治理人工智能技术。 国际合作对于防止全球人工智能治理环境分裂成不可互操作的区域，这些区域具有难以承受的复杂性和合规成本至关重要。促进国际合作和司法互操作性需要： –人工智能创新的可访问性可以 人工智能的接入赋予司法管辖权在经济增长和发展目标上取得进步的能力。真正的接入依赖于克服导致全球南方在基础设施、数据、人才和治理方面权力不平衡的结构性不平等。 –：充分应对独特的 在人工智能区域关注的范围内，防止将发展中经济体仅仅沦为人工智能价值链的末端节点，必须重新构想角色，以确保全球南方参与者在人工智能创新和治理中能有所作为。 –为确保合法性 国际协调：在治理方法方面，需要一种多利益相关方的方法，该方法接纳来自政府、民间社会、学术界、工业界和受影响社区的观点，并基于对人工智能社会经济影响的协作评估。 本简报论文的发现旨在向参与人工智能治理和监管的不同行为者提供信息。这些发现还将作为世界经济论坛及其人工智能治理联盟未来工作的基础，该联盟将提出关于弹性治理和监管的批判性考虑，包括国际合作、互操作性、获取和包容性 。 引言 生成式人工智能承诺带来经济增长和社会效益，但也带来了挑战。 生成式人工智能（AI）的快速兴起在社交和经济层面都充满希望。1 包括在10年期间将全球国内生产总值（GDP） 提高7%的潜力。2与此同时，一系列复杂挑战已经出现，如对就业、教育和环境的影响，以及网络有害内容的潜在放大效应。3此外，对人 工智能系统企业透明度的需求有所增加。4并且 为了明确数据来源和所有权。5 全球治理当局面临着艰巨的任务，即制定政 策以利用人工智能的益处，同时建立防护措施以减轻其风险。此外，他们还试图将人工智能治理方法与现有的法律结构相协调，例如隐私和数据保护、人权（包括儿童权利） 、知识产权和网络安全。 1全球程 表1 人工智能治理发展进 新兴且分散的全球人工智能治理格局因生成式人工智能带来的挑战而进一步复杂化。人工智能治理的复杂且快速发展的格局呈现出多单一方法针对个别司法管辖区，因为多种方法中样化的国家反应：基于风险的、基于规则的、基的元素可以相互补充，并可能被纳入混合反应中于原则的和基于结果的，如表1所示。值得注意的。6是，很难将这些反应清晰地归入某一类别。 人工智能治理方法概述（非互斥）基于风险的 基于规则 基于原则的 以结果为基础 定义 关注于分类和优先考虑风险关于潜在的人工智能危害系统可能造成 布置了详细和特定规则、标准以及/或要求人工智能系统 明确了基本准则专注于实现原则或指南可量化的AI相关对于人工智能系统，留下以下内结容果：未fo定r义AIsystems,leaving解释和精确特定的流程或实施细节必须采取的行动至组织遵循合规性 效益 –定制化至应用领域 –比例 风险配置 –灵活至改变 风险水平 –潜在降低复杂性–一致的执行可能的 –旨在培养创新–适应于新的发展–可以鼓励分享最佳实践 –可以支持效率–灵活应变 –旨在培养创新–合规性可以具有成本效益 挑战 –风险评估 可能非常复杂 –可能会造成市场壁垒 高风险领域的进入区域 –评估和执行可以结构复杂 –刚性可以增加合规成本–可能不可靠执行 –潜在 不一致性与解释原则的 –不可预测的合规与 实际执行不力 –潜在滥用可能性不良行为者 –测量范围结果可以是模糊不清。–潜在扩散的可能性责任–有限的控制过度程序化与透明度 示例 人工欧盟： 《情报法案》2023（暂定）协议 中国：临时 措施：生成式管理AI服务，2023 自愿代码加拿大： 行为规范智能，2023 治理日本： 指南人工智能的实施原则版本1.1，2022 the 近期关于欧盟人工智能法案的初步协议代表全球首次尝试制定一项全面且具有约束力的AI法规，该法规适用于在基于风险和使用场景驱动的结构内的人工智能产品和服务。7其他特定于人工智能的监管努力也正在各个司法管辖区开发中，例如 在加拿10大。8巴西，9 治理意图和探索一系列监管工具，包括从强硬法律和强制遵守规则到软性指导和自愿最佳实践。治理格局的复杂性进一步加深，监管回应分布在一系列针对特定行业考虑因素和跨部门要求的矩阵中。最近发布的美国关于安全、可靠、可信人工智能的行政命令，指示联邦机构制定新的标准 智利并且菲律宾。11与此同时，印度政府考 ，并包括由风险管理驱动的针对特定行业的指导 虑了非监管方法，强调创新、推广和适应人工智能技术快速发展的必要性。12 直接响应生成式AI基础模型的快速进展和广泛应用 ，中国实施了与生成式AI使用相关的法规。欧盟人工智能法案（EUAIAct）也纳入了针对通用人工智能（GPAI）系统基础模型的具体义务。13 151617 其他国家，例如新加坡，14 马来西亚，沙特阿拉伯，日本，和 卢旺达18 各国正在通过制定国家政策来应对人工智能的变 革潜力。19该概述 。 除了政府监管努力之外，人们对行业负责任的AI治理实践的重要性日益增强。20在保障社会利益方面。例如，作为对美國行政命令的回应，美国国家标准与技术研究院（NIST）设立了人工智能安全联盟，该联盟意图与其他利益相关者，包括行业，密切合作，以提供风险管理最佳实践。21 1.1演变中的AI治理紧张关系 塑造一个集体的全球未来，生成式人工6智能治理： 其与版权保护的重叠处，25 人工智能治理方法的多样性考虑了源于新出现的和加剧的挑战所引发的辩论。22由生成式AI技术的规模、力量和设计引入。表2提供了一个快照，展示了正在进行的两个显著辩论，以及关于风险性质和访问AI模型的样本分歧立场。其他新兴的紧张局势包括生成式AI将对就业产生什么影响。2324 数据透明度要求责任在生成者内部各参与者之间的分配 人工智能生命周期26解决由生成式AI放大的事实 错误和虚假信息问题。27 许多这些新兴紧张局势的根源在于数据治理问题 。928例如，隐私关注、数据保护、嵌入式偏见。2 身份与安全挑战来源于使用数据训练生成式人工智能系统，以及由此产生的生成式人工智能系统创建的数据。有必要重新审视现有法律框架，以确0保为人工智能生成的数字身份提供法律保障。3 表2人工智能治理的辩论领域（非详尽列表） 政策反对的论点 政策争论为 样品位置 辩论与背景 政策重点在于长期存在性风险31与当前相比人工智能的32负面影响。 高级自主人工智能系统构成一种生存威胁对人类。33 –没有足够的谨慎， 人类可能永久性地失去自主控制人工智能系3统4。 –从最大的开始 关于生存风险的疑问支持发展值得信赖的人工智能，并可能预防过度监管35 ––– 存在风险是推测性的并且不确定。36可以重新引导宝贵资源的流向资源来自科学研究了当前危害。37误导监管注意力。 38 人工智能目前面临的挑战损害和一系列潜在近期至长期风险。多样化存在关于...的观点如何识别和优先考虑危害与AI带来的风险随着时间的推移哪些风险应被考虑。 有效的人工智能监管需要基于科学的调查目前危害。39 –关于紧迫性，有如下几点：there是立即存在的问题和 新兴的脆弱性AI对其产生不成比例影响的AI边缘化和脆弱人口。 – 关注已知危害可能导致忽视长期风险未被充分考虑传统政策目标。 –应对已知挑战 harmswilladdresslong-term假设风险。40 政策处理开源与……的对比闭源人工智能。41 开源AI对于AI至关重要采用和缓解当前并且未来来自人工智能系统的危害。43 –人工智能的访问增加并且民主化 其功能。 – 增加的获取途径暴露了AI模型更容易受到恶意攻击使用与非故意误用。 治理正在考虑中鉴于其所在的地点人工智能技术可能位于在一个开放-光谱上对封闭访问。42 –刺激创新与刺激竞争。–使能够研究风险，可减少偏见和差异 绩效表现，针对边缘化群体人口。 – 打补丁的困难漏洞可能会导致以下内容人工智能系统未受保护44。 封闭式人工智能是必要的。防止对强大工具的滥用人工智能技术。45 –保护商业知识产权。–安全措施以防止潜在的有害的未来能力。–已识别出的漏洞可固定和安全性功能 可以实施。46 –– 权力集中及知识在高资源环境中组织。47对少数依赖性的增加基础模型提供者垄断相关的风险后果。 2 国际合作与司法管辖权互操作性 国际合作以促进司法管辖范围的互操作性对于确保全球对人工智能的凝聚力和信任至关重要。 国际合作对于确保社会对生成式AI的信任以及防止全球AI治理环境分裂成互不兼容的领域，这些领域具有难以承受的复杂性和合规成本至关重要 。促进司法管辖权互操作性需要国际协调、兼容的标准和灵活的监管机制。例如，美国已采取主动，旨在促进与国际的合作。 通过美国-欧盟贸易和技术委员会在欧洲，智利、新西兰和新加坡已签署数字经济伙伴关系协定。这表明在需要人工智能监管的共识日益增长，2023年英国人工智能安全峰会上的代表国家签署了布莱切利宣言，承诺建立对人工智能机遇和风险的共同理解。 2.1国际协调与合作 为确保治理提案的持久合法性，全球监管互操作性必须采用一种多利益相关方方法，该方法接纳来自政府、民间社会、学术界、行业和受影响社区的各种观点。在全面评估人工智能的社会经济影响和监管反应的有效性方面有效地确立努力，需要合作以确定和优先考虑关键问题。在起草人工智能政策指南方面的国际协调努力示例包括联合国儿童基金会2021年关于儿童的人工智能政策指南以及国际刑警组织与联合国区域犯罪与司法研究所（UNICRI）合作开发的2023年《执法领域负责任的人工智能创新工具包》。 努力如经济合作与发展组织（OECD.AI）对国家治理框架之间互操作性差距的映射48对减少冲突至关重