2023以人为本的人工智能治理研究报告英文版

中期报告: 治理人类的AI 2023年12月 Introduction2 全球治理赤字6 机会和促成因素6 利用AI的关键促成因素人性8 治理是关键推动者9 风险和挑战10 AI10的风险 有待解决的挑战13 国际治理AI14 AI治理景观14 迈向国际AI治理的原则和功能15 初步建议16 A.指导原则16 16 兴趣16 指导原则3。人工智能治理应与数据治理和数据共享区的促进同步建设17 指导原则4.人工智能必须具有普遍性、网络化和植根于自适应的多利益相关方协作17 指导原则5.人工智能治理应以《联合国宪章》、国际人权法和其他商定的国际承诺为基础，如可持续发展目标17 B.机构职能18 机构职能2：通过在普遍背景下认可的全球人工智能治理框架，加强世界各地正在出现的治理努力的互操作性及其在国际规范中的基础(UN)20 机构职能3:制定和协调标准、安全和风险管理框架21 机构功能4：通过国际促进人工智能的发展和使用，以促进经济和社会利益合作21 机构职能5：促进在人才开发，使用计算基础设施，建立多样化的高质量数据集和可实现可持续发展目标的公共产品方面的国际合作21 机构职能6：监测风险、报告事件、协调应急响应 结论25 22 机构职能7：通过约束规范实现合规和问责22 Next步骤25 附件27 关于高级别咨询机构27 高级别咨询机构成员AI28 AI高级别咨询机构的职权范围29 工作组和交叉主题30 缩写列表31 Introduction 1.人工智能1（AI）越来越影响我们所有人。尽管人工智能已经存在了多年，但曾经难以想象的能力正在以前所未有的速度迅速出现。人工智能提供了非凡的潜力-从扩展人类知识范围的科学发现到优化有限资源并帮助我们完成日常任务的工具。这可能是向绿色未来过渡的游戏规则改变者，或者帮助发展中国家改变公共卫生和跨越最后一英里教育的挑战。人口老龄化的发达国家可以用它来解决劳动力短缺问题。 2.然而，也存在风险。人工智能可以加强偏见或扩大监控；自动化决策可以模糊公职人员的 问责制，即使人工智能增强的虚假信息威胁到他们的选举过程。人工智能系统的速度、自主性和不透明性挑战了传统的监管模式，即使越来越强大的系统被开发、部署和使用。 3.人工智能对人类和社会的机遇和风险是显而易见的，并抓住了公众的利益。它们也在全球范围内表现出 来，在获取数据、计算和推动人工智能的人才方面存在地缘战略紧张关系，并谈论新的人工智能军备竞赛。利益和风险也没有公平分配。即使人类仅利用AI的积极方面，也存在真正的危险，那将仅限于富人俱乐部。 1根据OECD定义：https://oecd.ai/en/wonk/ai-system-definition-update 如今，人工智能的好处主要集中在少数州、公司和个人身上。 4.这项技术需要治理，不仅是为了应对挑战和风险，而且是为了确保我们以不让任何人掉队的方式利用其潜力。衡量我们成功的关键标准是人工智能技术在多大程度上帮助实现可持续发展目标(SDG)。例如，方框1说明了人工智能在应对气候变化及其影响方面的潜力(SDG13)。 方框1：案例研究，说明人工智能如何帮助应对气候变化 气候变化和人工智能机会的关键交集-案例研究： 气候变化是一个全球性和普遍的挑战——集体应对需要可持续的数字化转型，精心设计的新基础设施，以及提供大规模精确决策的能力。人工智能驱动的方法特别适合这一挑战，它集成了机器学习、大型语言模型、高质量数据分析等方面的关键开发，以创造新的能力。 从地理空间成像，分布式传感器，实时监测和公民报告的超局部气候变化影响的数据中，描述脱节和不同现象的信息可用于创建对输入，后果和驱动气候结果的复杂系统的新理解。与可以将数据转化为对行动的见解和见解的预测系统相结合，人工智能工具可以帮助开发新的战略和投资，以减少排放，影响私营部门对净零的新投资，保护生物多样性并建立广泛的社会复原力。这可以适用于其他SDG。 以下是人工智能帮助应对气候变化的早期承诺的非详尽列表： ·通过为气候投资创建新的高度精细的预测资源，将气候行动的责任分配给国家和国家以下各级治理机构。例如，与风暴相关的城市洪水的实时热图，以解锁下水道和排水系统中的超地方基础设施改进。 ·建立公共，开源数据和AI系统，将私营部门的净零报告从静态合规功能转移到面向公众的实时数据存储库，以增加对公共承诺的信任，透明度和问责制。 ·利用与城市流动性和行为模式相关的先进气候模型，建立新的预警系统，以便更有效地提供冲突 后/救灾和恢复。 ·在开放系统和其他碳去除技术中开发基于证据的人工智能干预措施，这些技术的高不确定性间隔可能会限制关键的早期投资。先进的建模技术可以降低科学探究的成本，并允许快速原型化新颖的解决方案。 但是，结构性障碍仍然存在，无法帮助这些技术达到与气候危机范围相匹配的规模，并满足气候斗争中许多关键利益相关者的不同需求，包括公司，政府，活动家，民间社会等。 Rismessuchasalgorithmicbias,transfercontextbias,interpretationbias,representationandallocationharmswouldhavetobeconsidered.Someactionstoovebarriersinclude: ·改善模型的可解释性和信任度，以增加对AI产生的关键气候决策的见解的采用。 ·确保人工智能模型在不同的、真正具有代表性的数据集上进行训练，这些数据集既反映了由营利性实体收集的商业上可行的数据，也反映了由非营利组织、慈善组织和政府资源资助的“填补空白”的数据，并补充了当地的隐性知识。 ·向受气候变化脆弱性影响的社区提供人工智能生成的预测，否则只能提供给私营公司。 ·降低计算和机器学习专业知识的成本，使非营利组织和民间社会能够构建和维持自由和开放的人工智能产品。 ·克服多个组织构建专有解决方案/持有专有数据以争夺私人或慈善投资的孤立行动。 ·为扩展此类解决方案提供资金 人工智能与气候变化前线经验之间的跨域联系对于实现这些变革性方法至关重要。技术筒仓中存在的解决方案-即使具有计算，数据和人才的支持-在无法反映社区成员和当地决策者的生活经验时，在吸收和分配方面也面临着重大挑战。 对于上述每个机会，非技术利益相关者的关键早期投入都需要告知项目概念，设计，执行和集成。因此，推动者需要一种基于价值的方法，优先考虑社区利益，结合技术和基于问题的专业知识，以及新AI开发的综合方法。我们还需要关注人工智能对气候变化的潜在负面影响，因为相关的能源和水消耗。 5.成立了人工智能高级别咨询机构，以分析和提出人工智能国际治理的建议。我们不仅将这项任务解释为考虑如何治理今天的人工智能，还考虑如何为变革步伐只会加快的环境做好准备。因此，人工智能治理必须反映技术本身的质量及其快速发展的用途——敏捷、网络化、灵活——以及赋权和包容性，以造福全人类。 6.我们的工作不是在规范或体制真空中进行的。联合国遵循所有成员国承诺的规则和原则。这些共同和编 纂的规范和价值观是其所有工作的基石，包括人工智能治理。包括对《联合国宪章》，《世界人权宣言 》以及包括环境法和国际人道主义法在内的国际法的承诺在内的准则适用于AI。为支持从和平与安全到可持续发展的多边目标而建立的机构在培养机会同时防范风险方面可以发挥作用。 7.尽管如此，我们对人工智能方面的补充治理举措抱有紧迫感，包括各国以及欧盟、七国集团 、二十国集团、教科文组织和经合组织等区域和政府间进程的举措。然而，需要更多的包容性参与，因为许多社区——特别是全球南方或全球多数社区——在这些讨论中基本上没有出现，尽管他们的生活可能受到影响。需要一种更具凝聚力，包容性，参与性和协调性的方法，涉及世界各地的不同社区，特别是来自全球南方或全球多数派的社区。 8.联合国没有治理人工智能的灵丹妙药。但是，作为一个建立在《联合国宪章》基础上的具有普遍成员资 格的机构，其独特的合法性得到普遍认可，以及其对拥抱世界各国人民多样性的承诺，为分享知识，就规范和原则达成共识以及确保良好治理和问责制提供了关键节点。在联合国系统内，全球数字契约和2024年9月未来峰会的计划为及时采取行动提供了途径。 9.该咨询机构由地理，性别，纪律和年龄不同的个人组成；它吸收了政府，民间社会，私营部门和 学术界的专业知识。激烈而广泛的讨论产生了广泛的共识，即人工智能方面存在全球治理赤字，联合国可以发挥作用。 10.在本报告中，我们首先确定了可以帮助利用AI为人类带来的潜在好处的机会和推动者。其次，我们强调了 人工智能现在和可预见的未来所面临的风险和挑战。第三，我们认为，解决全球治理赤字需要明确的原则 ，以及新的职能和制度安排来满足这一时刻。报告最后提出了初步建议和下一步措施，这些建议将在2024 年8月之前在我们的最终报告中详细阐述。 11.尽管我们对大方向充满信心，但我们知道我们并不孤单。我们期待就下一步行动进行广泛咨询，以确保包括更多的声音和观点，并确保AI服务于我们的共同利益。 全球治理赤字 12.尽管人工智能正在改变我们的世界，但它的发展和回报目前集中在少数国家的少数私营部门参与者中。危害也分布不均。需要所有成员国平等参与的全球治理，以使资源可获得，使代表和监督机制具有广泛的包容性，确保对危害负责，并确保地缘政治竞争不会导致不负责任的人工智能或抑制负责任的治理。 13.联合国是基于规则的国际秩序的核心。它的合法性来自于成为一个建立在国际法基础上的真正的全球论坛 ，为和平与安全、人权和可持续发展服务。我们认为，这 为人工智能全球治理中的集体行动提供了制度和规范基础。除了考虑公平，获取和预防损害之外，技术本身的本质-人工智能系统在结构，功能，应用和广泛参与者的使用方面具有跨界意义-需要采取全球方法。 14.自我监管举措、国家和区域法律以及多边论坛的工作正在填补这一难题。然而，差距仍然存在，挑战很明显: 需要一个全球治理框架来实现这一快速发展的技术套件，以及各种行为者的使用，无论是技术的开发者还是用户。人工智能呈现出明显的全球挑战和机遇，联合国有独特的能力应对这些挑战和机遇，将一系列不断发展的举措变成一个连贯的、可互操作的整体，以其成员国商定的普遍价值观为基础，适应不同背景。 15.接下来的三节概述了以联合国普遍框架为基础的机构或机构网络在扩大人工智能的好处和减轻其风险方面可 以发挥的作用，以及最能实现这些目标的原则和功能。 机会和推动者 16.人工智能有潜力改变世界各地对知识的获取并提高效率。新一代创新者正在推动人工智能科学和工程的前沿。人工智能正在提高发达经济体和发展中经济体从医疗保健到农业等领域的生产力和创新。除了这种增长之外，还有一些问题，即需要哪些推动者来确保利益在人类中公平和安全地传播，以及解决和管理破坏性影响，包括对工作的影响。对于政策制定者来说，一个重要的问题是如何在世界各地发展成功的人工智能生态系统，同时让成熟和新兴参与者承担责任。 方框2：AI机会示例 AI机会的例子 人类辅助AI 人工智能可以帮助人们完成日常任务，以及他们最雄心勃勃、最具创造性和富有成效的努力。人类辅助AI包括无障碍工具和教育改进。已经开发的应用程序可以作为视觉或语音受限的人的虚拟助手，支持以前被忽视或忽视的可访问性需求。人工智能支持的翻译现在涵盖了一百多种语言，促进了访问以及跨文化理解和沟通 。新一代辅导应用程序有望在全球范围内扩大获得优质教育的机会。 部门机会 AI将在某些领域而不是其他领域产生更大的影响。最有希望的是农业和粮食安全、卫生、教育、环境保护、抵御自然灾害和应对气候变化。例如，人工智能已被用于创建洪水预警系统，目前覆盖80多个国家，以及野火和粮食不安全。人工智能被用来监测濒危物种(例如Procedre、海豚、鲸鱼)，并优化农业实践。在每个领域中，都有无数的可能性。 人