赛迪译丛2024年第48期（总第674期）：为人类治理人工智能加水印

2024年12月30日第48期总第674期 为人类治理人工智能 【译者按】2024年9月，联合国人工智能咨询小组发布《治理人工智 能，助力造福人类》的最终报告。报告提出了全球人工智能包容共治、数据共享、多方协作等五项原则，总结分析了现有全球人工智能合作机制的现状。报告提出，当前人工智能全球治理存在代表性不足、协调性不足等问题，导致人类无法应对人工智能技术带来的潜在威胁。报告提出了建设全球人工智能科学小组、加强全球人工智能治理政策对话、设�全球人工智能标准交流中心、在联合国秘书处内设置人工智能办公室等治理举措建议。 【关键词】人工智能联合国治理机构 人工智能技术具有巨大的“向善”的潜力，从开辟新的科学探索领域、优化能源网络，到改善公共卫生和农业发展，乃至实现联合国可持续发展目标等方面都可以发挥重要作用。然而，如果未能实现有效治理，人工智能带来的机遇就难以实现或者无法得到公平的分配。与此同时，快速、不透明和自主的人工智能系统为人类带来了严峻挑战。未来，在全球范围内开展人工智能治理合作是应对风险挑战的关键。 一、人工智能全球治理合作的现状 （一）人工智能全球治理合作的主要原则 从长远来看，人工智能治理必须为人类和社会带来切实的好处和保障。因此，联合国提出了以下原则： 1.人工智能应由各方以包容方式共同治理并造福所有人 尽管人工智能具有极大潜力，但是仍然不具有普惠意义，许多人都无法接触使用人工智能。充分利用人工智能的潜力，并使其发展、部署和使用过程中的广泛参与成为可能，是推动全球挑战可持续解决方案的关键。无论国家大小，所有国家都必须能够参与人工智能治理。无论南方或北方的公民，都应该能够通过人工智能创造自己的机会、利用这些机会并实现繁荣。因此，我们需要采取积极和矫正性措施，以解决个别少数群体在技术发展、 部署、使用和治理过程中长期以来的历史性和结构性排斥问题，并将数字鸿沟转变为包容性的数字机会。 2.人工智能治理必须以公共利益为导向 人工智能系统的开发主要集中在科技公司手中。人工智能的优化、部署和使用涉及开发者、部署者和用户多种群体。从社交媒体的经验来看，人工智能产品和服务能够迅速跨越边界和用户类别进行扩展。因此，除了更广泛的机会与风险考量外，人工智能必须以公共利益为核心进行治理。仅仅要求“不造成伤害”是一项必要但不足的要求。我们需要更广泛的框架对在人工智能生命周期中建造、部署和控制人工智能的主体追责。这不能仅依赖于自我监管，还需要成员国一致执行的具有约束力的规范，以确保公共利益优先于私人利益。此外，人工智能多样化使用的具体场景中有其复杂性和风险。治理工作必须关注与多样性、公平性、包容性、可持续性、社会与个人福祉、竞争性市场以及健康创新生态系统相关的公共政策目标。在此背景下，治理需要扩大多元利益相关方的代表性，同时在公共和私营部门角色之间划分职责时提供更清晰的界定。以公共利益为核心的治理还意味着对公共技术、基础设施和公共官员能力建设进行投资。 3.人工智能治理应与数据治理和促进数据共享空间协同进行 数据是人工智能系统的关键，其治理和管理必须与人工智能 治理的其他组成部分相结合。学术界强调，数据治理应作为短期优先事项处理。私营部门实体指出，数据治理措施应补充人工智能治理，强调全面的隐私法和负责任的人工智能使用。国际组织和民间社会组织强调，人工智能训练数据的治理应保护消费者权益，并通过对人工智能训练数据的非排他性访问来支持人工智能开发者之间的公平竞争，强调了对具体和可付诸行动的数据治理措施的呼吁。联合国被确定为应对这些治理挑战和缩小资源差距的一个关键场所。我们需要建立隐私和安全保护框架的法律与技术安排，在符合适用法律的前提下，促进数据使用。同时，还应鼓励发展公共数据共享，尤其是针对解决社会挑战至关重要的公共数据，使多方利益相关者可以使用。 4.人工智能治理必须具有普遍性并与多利益相关方共同协作 任何人工智能治理工作都应优先争取不同成员国和利益相关者的普遍支持。尤其需特别关注包容性参与，降低全球南方被排除社区的进入门槛。同时，除了要求现有机构根据人工智能的影响审查其当前职能，还需要新的横向协调和监督职能，并应由新的组织结构来承担。新旧机构可以形成一个共同的治理网络。此外，治理框架还需理解推动人工智能开发、部署和使用的不同文化意识形态，建立创新结构以吸纳私营部门、学术界和民间社会与政府共同参与。可以借鉴以往追求公共利益的合作努力，例如 国际劳工组织的三方结构以及联合国全球契约。 5.人工智能治理应立足于《联合国宪章》、国际人权法和可持续发展目标等其他商定的国际承诺 联合国在规范性和制度性方面具有独特的作用。我们需要将人工智能治理与联合国的核心价值观与《联合国宪章》及其对和平与安全、人权以及可持续发展的承诺对应，作为其治理基础和指南针。联合国能够从经济、社会、健康、安全和文化等多方面考虑人工智能的全球影响，所有这些都以普遍尊重和执行人权与法治为基础。联合国多个机构已在人工智能对教育、武器控制等领域的影响上开展了重要工作。《全球数字契约》和《数字合作路线图》就是推动技术全球治理框架的多方利益相关者协商的典例。联合国成员国的有效参与、赋能联合国机构并吸纳多元化的利益相关者，对支持和增强全球人工智能治理响应至关重要。�原则在征求意见过程中获得了政府、民间社会、技术界、学术界和私营部门等所有利益攸关方的最有力支持。2024年3月联合国大会通过了关于抓住安全、可靠和值得信赖的人工智能系统为可持续发展带来的机遇的第A/78/265号决议。我们深信，为了减轻人工智能的风险和危害，确保人工智能能够真正造福全人类，必须将人权置于人工智能治理的中心。这一对人权的基�承诺贯穿各领域，适用于后文提出的所有建议。 （二）人工智能全球治理合作的主要机制 目前关于人工智能治理的文件不胜枚举，制定主体多样、国际举措纷繁。从主体上看，各国政府、公司、财团、区域以及国际性组织均有涉猎。此外，在联合国系统内也出现了一系列文件和举措中。表2展示了可能适用于人工智能的26个特定领域与 联合国有关的文书，其中25项文书具有约束力，需要对其进行 解释。联合国和相关组织的另外32份领域级文件专门关注人工智能，但都不具有约束力。 表1:2019至2024年（上半年）国际人工智能治理举措及关键阶段性成果 表2:联合国及其相关组织与人工智能治理相关的文件 从举措上看，主要包括指南、框架、原则、宣言，还有行业标准。相关举措涵盖了从双边和小多边合作到大型多边合作的不同国际合作层面。例如，新加坡与美国、英国与美国的双边合作，以及欧盟、东盟、非盟等区域集团的多边合作。同时，人工智能峰会、全球标准制定机构和行业标准组织也采取了系列举措，显示了政府、企业和国际组织在推动国际合作中的积极作用，如表3所示。 表3:专门针对人工智能的治理举措的来源 （三）人工智能全球治理合作的主要进展 如今，人工智能全球治理已经从原则讨论迈向实际机制建设与具体合作项目的实施，为应对技术带来的全球挑战和机遇奠定了基础。具体包括： 明确治理框架与原则。《全球数字契约》与《数字合作路线 图》等倡议为全球范围内的人工智能治理提供了宏观指导，强调多利益相关方的参与，并倡导在人工智能开发和应用中遵循透明、公正、包容和可持续原则。 建立多边合作机制。联合国鼓励成员国、私营部门、学术界 和民间社会共同参与治理框架的设计与实施。例如，联合国机构鼓励通过扩大全球南方国家的参与，缩小全球范围内的数字鸿沟； 联合国教科文组织对人工智能在教育领域的应用进行研究；联合国裁军事务处探讨人工智能在军事领域的使用与控制。 多国联合基金提供支持。亚洲基础设施投资银行与新开发银 行合作，为“一带一路”沿线国家的人工智能与数字基础设施项目提供资金支持。 二、人工智能全球治理合作面临的三大挑战 多个国家、地区、多利益相关方和其他倡议取得了有意义的成果。然而，除了联合国提出的几项倡议之外，没有一项倡议能真正具有全球影响力。人工智能治理的代表性不足使得其无法应对全球性的人工智能技术及其影响。人工智能倡议和机构间的协调性不足可能使世界人工智能治理变得互不关联、互不兼容。实施性不足削弱了国家、私营部门、民间社会、学术界和技术界将承诺转化为实际成果的能力。 （一）代表性不足 大多数倡议在政府间层面并不完全具有代表性，许多倡议无法涵盖全球各地区的特点。 如表4所示，在7项非联合国的区域人工智能倡议中，仅有 7个国家加入了所有倡议，而118个国家没有加入任何倡议。这些国家主要为南半球的国家，但即使是人工智能领先的国家，其 代表性也不均衡。在治理的早期阶段存在一定程度的实验、规范间的竞争以及对新技术的适应差异，具有选择性是可以理解的。然而，随着国际人工智能治理逐渐成熟，全球代表性才能确保制度的公平和有效。 公平性要求更多的声音在如何治理人工智能的决策中发挥有意义的作用。而有效性要求人工智能治理制度必须横跨全球，避免“人工智能军备竞赛”或在安全和权利方面进行“逐底竞争”。大部分国家都认为国际人工智能治理代表性不足的问题亟需解决，而则联合国可以成为将世界团结起来的论坛。 表4：在七项非联合国国际人工智能治理倡议中的代表性 仅区际样本，不包括区域样本 样本：经合组织《人工智能原则》（2019年）、20国集团《人工智能原则》 （2019年）、欧洲委员会人工智能公约起草小组（2022-2024年）、GPAI 《部长级宣言》（2022年）、七国集团《部长声明》（2023年）、《布莱切利宣言》（2023年）和《首尔部长级宣言》（2024年）。 加拿大、法国、德国、意大利、日本、英国和美国 是所有抽样 倡议/文书的 缔约方*。 118个国家*未加入任何抽样的人工智能治 理倡议/文书 按区域分组划分的未参与国家 29个国家中有0个 23个国家中有1个 33个国家中有25个 54个国家中有44个 54个国家中有48个 *缩写：AG：非洲集团；APG：亚洲及太平洋集团；EEG：东欧集团；GPAI：人工智能全球合作组织；LAC：拉丁美洲和加勒比地区；WEOG：西欧及其他国家集团。 （二）协调性不足 仅凭大量的人工智能治理倡议并不能保证为人类有效合作，因为区域间的倡议无法保证有效衔接，已经出现了不兼容的风险。 没有一个全球性机制让所有国际标准制定组织、国际科学研究倡议或人工智能能力建设倡议相互协调，这导致了各自为政。联合国系统内也出现了一系列协调性不足。表2显示了可能适用于人工智能的各个具体领域的联合国相关文书，这些措施大多是针对特定领域建立的，而没有一个实体能够全面地开展这方面的工作，这就限制了现有联合国独自应对人工智能对全球多方面影响的能力。 （三）实施性不足 然而，仅有代表性和协调性是不够的，还需要切实采取行动，确保善治承诺在实践中转化为具体成果。 与私营部门合作十分重要。我们需要民间社会和科学专家的积极参与，让政府和私营公司诚实地履行承诺和主张。在国家内部和国家之间，利用人工智能服务公共利益的推动因素不足，这导致了实施方面的关键问题。尽管许多国家已经制定了国家战略，并且一些国际援助倡议也正在出现，但这些机构的网络和资源仍然不足。因此，在全球层面将国家和区域的能力建设倡议联系起来，汇集资源以支持那些未能参与这些努力的国家，有助于确保所有国家都能分享与人工智能相关的机遇。 三、推动人工智能全球治理合作的路径建议 （一）建设国际人工智能科学小组 建议成立一个独立的国际人工智能科学小组，由该领域的多学科专家自愿以个人身份组成。 1.主要工作 一是发布年度报告。调查与人工智能相关的能力、机遇、风险和不确定性，识别在技术趋势方面达成科学共识的领域，以及需要开展更多研究的领域。二是编制季度专题研究摘要。就人工智能帮助实现可持续发展目标的领域进行研究，重点关注可能服务不足的公共利益领域。三是发布特别报告。主要针对新出现的问题，特别是新的风险或治理方面的重大漏洞。 该科学小组将涵盖广泛的重点，全面关注一系列