建构人工智能发展的国际规则 --趋势、领域与中国角色

建构人工智能发展的国际规则 --趋势、领域与中国角色 鲁传颖田丽封帅周亦奇王玉柱王天禅张璐瑶 上海国际问题研究院国际传播中心 2023年10月 建构人工智能发展的国际规则：趋势、领域与中国角色 作者简介 鲁上海传国颖际问题研究院公共政策与创新研究所副所长上研院网络空间国际治理研究中心秘书长 清华大学战略与安全研究中心特约专家 北京大学新媒体研究院副田院丽长北京大学互联网发展研究中心主任 封上海帅国际问题研究院国际战略与安全研究所所长助理 上海国际问题研究院公共政策与创新周研亦究奇所 副研究员 王海玉国柱际问题研究院世界经济研究所研究员上研院“一带一路”与上海研究中心秘书长 上海国际问题研究院网络空间国际治理研王究天中禅心 实习生 张上海璐国瑶际问题研究院网络空间国际治理研究中心实习生 目录 引言01 一、人工智能国际规则建构的总体趋势02 二、人工智能国际规则覆盖的领域05 三、人工智能治理进程的中国价值观11 四、中国参与人工智能国际规则制定的路径14 关于上海国际问题研究院17 关于清华大学战略与安全研究中心18 关于北京大学互联网发展研究中心19 建构人工智能发展的国际规则：趋势、领域与中国角色01 引言 2023年以来，人工智能技术的突破又一次成为全球瞩目的焦点。在高速进步的生成式人工智能，以及取得突破性进展的大语言模型的带动下，人类似乎已经开始触及通用人工智能技术的门槛。围绕着人工智能技术跨越式发展而展开的关于智能化社会的想象吸引了全球社交媒体与资本市场的追捧，但关于人工智能技术可能引发的各种安全风险和社会问题也成为社会关注的焦点。为了确保人工智能技术始终保持良性发展，确保技术进步与人类价值观相向而行，为人工智能发展设定合理的国际规则逐渐成为全球范围的重要共识。 2023年7月18日，联合国安理会举行了主题为“人工智能给国际和平与安全带来的机遇与风险”的高级别公开会议，这是联合国安理会首次举行人工智能主题会议。在本次会议上，联合国秘书长古特雷斯公开呼吁对人工智能技术风险进行有效治理，并且提议在联合国框架内成立一个新的监管机构推动人工智能领域的全球治理。国际规则具有重要的导向性作用，世界各国政府和企业都希望参与甚至主导人工智能国际规则的建构议程。可以预见，全球围绕人工智能国际规则制定问题将会展开复杂的竞合博弈，最终形成的国际规则体系也将成为影响全球人工智能技术、产业和安全的重要变量。 多年来，在有关各方的共同努力下，我国人工智能技术和产业都取得了较为丰硕的成果，人工智能已经成为推动我国经济高质量发展的重要力量，中国也已经成为全球人工智能版图上的重要一环。中国在人工智能领域已经积累了丰富的治理经验，能够为全球人工智能规则建设提供宝贵的发展中国家视角。因此，中国应积极参与人工智能国际规则制定，一方面，将中国在人工智能领域的治理经验转化为国际规则。另一方面，通过参与国际规则的讨论，加深对先进治理理念的理解，更好地促进国内人工智能的安全与发展。 02 建构人工智能发展的国际规则：趋势、领域与中国角色 一、人工智能国际规则建构的总体趋势 人工智能国际规则建构之所以受到世界各国的普遍重视，在于人工智能已经成为影响国家安全和发展的重要力量。美国、中国、欧盟等主要大国先后发布了人工智能的国家发展战略，围绕着人工智能而展开的国际竞争已经成为当前国际议程的重要组成部分。人工智能及其相关衍生技术本身具有强渗透性和高赋能性，能够与诸多社会生产部门建立深度链接。如果其技术潜能得到充分释放，可能对人类社会的生产生活带来颠覆式的影响。因此，在推动人工智能技术进步的过程中，必须充分重视技术发展与社会稳定之间的动态平衡。 在这种情况下，世界各国逐渐认识到通过规则建构推动人工智能治理的必要性。美欧等发达国家认为掌握人工智能规则建构的主动权是保持其在技术与产业领域优势地位的重要一环。他们积极推动相关议题的研究，并试图主导规则建构的国际议程，尝试在国内、国际两个层面着手进行机制完善和规则构建。然而，相比于更具同质性的国内环境而言，国家之间的互动关系更为复杂、不同主体之间的利益纠缠更为突出、文化和价值观更为多元，这也造成了形成人工智能国际规则的共识更加困难。 从实际进展情况来看，当前人工智能国际规则仍处于早期阶段，各主体在不 同层次上都在尝试推动各种形式的治理方案，归纳起来包括以下几个方面的内容： 第一，在多边层面，联合国积极主导人工智能国际治理规则建设。2023年6月，联合国秘书长古特雷斯公开表示，支持建立人工智能领域的“国际原子能机构（IAEA）”，对人工智能技术进行监管。这一事件意味着联合国希望在未来的人工智能国际规则制定的进程中将进行角色调整和功能增强，将其作用范围从原则层面深入到机制层面，建设更具约束力的人工智能监管机构，这可能会成为未来人工智能国际规则建构的基础架构。此外，在2023年7月联合国最新出台的《和平新议程》中，也专门提及人工智能和致命性自主武器系统对国际和平与安全的影响，建议各国紧急制定关于负责任地设计、开发和使用人工智能的国家战略；通过多边、多方进程推动人工智能军事领域的设计、开发和使用；最终就 建构人工智能发展的国际规则：趋势、领域与中国角色03 人工智能全球范围内的监管框架达成一致。 近年，联合国下属多个机构积极参与人工智能治理议程，取得阶段性成果。2021年，由联合国教科文组织人工智能伦理建议特设专家组出台的《人 工智能伦理问题建议书》（RecommendationontheEthicsofArtificialIntelligence）是人工智能国际规则制定的重要里程碑。该建议书从人类共同的价值观和可持续发展目标的基本立场出发，提出了十一项关于人工智能发展的指导性原则，被193个成员国共同接纳。2014年起，联合国在特定常规武器公约会谈机制下召开了多次非正式专家会议，围绕着致命性自主武器系统的相关问题进行了讨论，已有近100个国家参与了相关活动。此外，在联合国裁军研究所、联合国毒品和犯罪问题办公室等机构的活动和议程中，也有将致命性自主武器系统的伦理和安全、深度伪造的政治风险等问题纳入讨论的范围，但尚未出台明确的原 则倡议或国际规则。 第二，在发达国家阵营，美国、英国、荷兰加大筹码试图垄断人工智能国际规则主导权。美国在推动其国内规则国际化方面做了很多工作，在美国《关键与新兴技术国家战略》（NationalStrategyforCriticalandEmergingTechnology）等战略文件的引导下，美国将“推动与盟友的合作”“建设新兴技术的世界领导者地位”作为基本立场，建立了一系列人工智能的国际合作机制。例如，在军事防务领域，美国不仅在北约框架内发布《人工智能战略》，宣扬自身的安全和地缘竞争立场，还新建立了人工智能防务伙伴关系（AIPfD）、美英澳三国集团（AUKUS）新机制，进行国防和安全领域人工智能的使用规则协调；在标准协调领域，美国则依托四方（QUAD）关键新兴技术工作组、美欧贸易和技术委员会（TTC）以及美印人工智能倡议（USIAI）等机制，融合亚太、印太和西欧的关键盟友，进行技术合作并推行共同的人工智能技术标准；在价值观领域，美国则通过民主峰会、自由在线联盟人工智能与人权工作组（T-FAIR）等机制，选择性听取其“小圈子”内的伙伴对于意识形态和价值观的赞许和认同，理所当然地证实其观念的真理性，并积极推动其从区域化走向国际化。 英国、荷兰等西方国家也开始搭建起人工智能领域的“观念一致同盟”，希望把主导人工智能国际规则的能力控制在少数几个发达国家之内。2023年2月，荷兰在海牙举行“军事领域负责任人工智能”峰会，该峰会邀请了全球80多个国家参加，会议核心目标有三：提升军事领域负责人使用人工智能的政治重要性、 04 建构人工智能发展的国际规则：趋势、领域与中国角色 动员激活更广泛的利益攸关方参与、分享经验实践。该会议虽号称寻求凝聚国际社会在人工智能在军事领域内的共识，但其实际包容性依然受到西方地缘政治议程的影响，俄罗斯未获此会议邀请。在会上中国代表详细阐释了中国在人工智能安全治理领域的主张，提出智能向善、以人为本、多边主义的治理原则。2023年3月，英国政府发布题为《促进创新的人工智能监管方法》白皮书，提出了自己 的人工智能监管框架。此外，英国宣布将在2023年内举办首届人工智能安全全球峰会。该会议虽然打着“协调各国应对人工智能风险的共同方法”的旗号，似乎能够对人工智能国际规则制定起到正向的促进作用。但事实上，英国首相苏纳克却无意透露出英国的真实意图：努力协调英美合作并巩固“在未来技术领域的共同领导地位”。英国试图在伦敦设立人工智能监管国际机构，从而掌控人工智 能规则制定方面的国际话语权。 第三，发展中国家在人工智能国际规则建立上仍处弱势地位。发展中国家作为一个整体，在人工智能的国际规则制定上还处于早期阶段。一方面，这与广大发展中国家的人工智能发展还处于落后阶段有关；另一方面也与发展中国家参与国际规则的动力和意识不强有很大关系。面对西方国家不断强化人工智能国际规则体系，广大发展中国家应当快速觉醒，加大参与力度，贡献各自智慧。作为非西方国家和发展中国家的代表，中国是为数不多在人工智能国际规则领域积极发声的国家。中国不仅积极参与联合国在人工智能国际规则领域的工作，还在G20、金砖国家和上合组织等国际组织中积极推动和加强人工智能国际规则方面的合作。不仅如此，中国也在积极推动广大发展中国家在人工智能领域规则制定方面的合作。例如，中国与东盟国家和中东国家围绕着人工智能议题举办了各种形式的会晤合作，并成功建立起了的默契和互动规范。 公平合理的国际规则需要兼顾西方与非西方国家的立场和声音。在当前失衡的现实背景下，需要非西方国家更加团结努力，在国际规则制定中积极作为，为自身争取应有的利益。一个真正合理的国际规则体系应该是包容而非排斥的，是尊重最广泛国家利益和关切，而非仅仅关注小团体利益的。人工智能可能带来的各种安全风险是人类需要共同面对的挑战，非西方国家在人工智能领域的合理诉求不能被忽视，非西方国家在治理方面的智慧也值得借鉴。 建构人工智能发展的国际规则：趋势、领域与中国角色05 二、人工智能国际规则覆盖的领域 人工智能已经成为数字经济发展的核心驱动力。尤其是在生成式人工智能 （AIGC）和通用型人工智能（AGI）不断取得技术突破的背景下，人工智能在技术上的治理需求和主权国家治理效能之间的鸿沟有日益扩大之势。目前，全球范围内人工智能的国际规则制定仍处于起步阶段，在形式和内容上主要以国际软法和间接规制为主。但是，由于全球主要国家和地区组织都提高了对人工智能领域建章立制的重视程度，全球范围内的人工智能规制竞赛实际上已然开始。各国和地区不仅积极起草、出台规范人工智能技术的法律法规，还竞相出台与人工智能技术向善发展相关的政策指南等。这种规制竞赛有助于推动全球形成一个完善的、基于普遍共识的人工智能治理框架，也为我国争取国际规则制定的“先手”带来了机遇与挑战。 根据现阶段人工智能技术发展状况，结合各国在人工智能治理方面的经验总结，目前全球人工智能国际规则已经形成了较为稳定的覆盖领域，在相关领域的规则建构将成为国际规则的主要支柱。 （一）伦理问题 人工智能技术伦理问题一直是国际规则制定的重点领域，其目的是通过对人工智能伦理的有效规范，确保技术进步不会偏离人类基本的利益轨道和道德法则。在伦理问题方面，国际上已经出现了很多关于规则的探索，部分重要的国际组织和机构提出了人工智能的伦理原则和指导方针，也有一些国家也开始规范专门领域的技术伦理问题。 其中有代表性的成果包括下列内容：2021年11月联合国教科文组织 （UNESCO）发布了《人工智能伦理问题建议书》，成为首个规范性的人工智能全球伦理框架，同时赋予各国在相应层面应用该框架的责任；欧盟方面，2021年4月提出的《人工智能法案》经过多轮磋商后已进入最后阶段，未来极大可能成 06 建构人工智能发展的国际