人工智能全球安全治理的发展态势与新动向

2023年第2期（总第35期） REPORT 人工智能全球安全治理的发展态势与新动向 人工智能全球安全治理的发展态势与新动向 朱荣生、苏适a 2022年底，ChatGPT凭借强大的信息收集和处理能力而爆火“出圈”，社会上掀起了对人工智能技术发展和应用风险的热烈讨论。这其中不乏对ChatGPT在军事上对作战行动影响的讨论。2023年3月14日，俄罗斯的一架苏-27战斗机与一架美军地MQ-9“死神”无人机发生碰撞，美军无人机受损并最终坠入黑海海域。该事件似乎验证了关于未来战场有人和无人装备将更加频繁互动的观点。这在一定程度上强化了国际社会对自主武器和人工智能军事化开展全球安全治理的关切和推动意愿。有鉴于人工智能军事化风险及其全球安全治理的讨论已成为一项热点话题，本文将重点分析人工智能全球安全治理的发展趋势，并结合近期荷兰主办全球军事领域负责任的人工智能峰会的主要观点进行评论。 一、人工智能全球安全治理的演进与挑战 随着人们对以致命性自主武器为代表的无人装备的安全担忧日甚，国际社会对管控相关技术的意愿愈发迫切。从当前的全球安全治理主张来看，有一些人极力推崇达成一项全面禁止致命性自主武器的国际协议；另一些人则认为应当确立武器研发、部署和使用的“良好 a朱荣生，清华大学战略与安全研究中心特约专家；苏适，长安大学建筑工程学院本科生。 本文是国家社会科学基金“人工智能的国际安全挑战与规范演进研究（项目编号：21CGJ012）”的阶段性成果。 实践”。在全球安全治理路径争论不休的情况下，美欧等发达国家却把“软规则”建构视作建立自身发展优势的工具，利用其在治理机制中的主导地位建构排华“小圈子”。与此同时，推动人工智能安全治理的知识生产面临着供给不均衡、不充足的挑战。 （一）取向多元化：对致命性自主武器进行管控争论不休 国际社会在如何管控致命性自主武器的议题上出现了“全面禁止”和“有限发展”的尖锐分歧。一方面，较为激进的观点主张全面禁止致命性自主武器的研发、部署和应用。人权观察组织、红十字国际委员会等国际组织不断发布研究报告，期望在国际社会形成禁止致命性自主武器的舆论压力。Ⓒ它们呼吁能够倡导达成一项具有约束力的国际条约，尽早对致命性自主武器开启严格的军备控制。在2022年7月的《特定常规武器公约》政府专家会议上，阿根廷等十个人工技术弱国坚定地反对在国际场合讨论军事无人化的好处，联合发布了禁止致命性自主武器的路线图，这预示着中小国家将形成强化全面禁武主张的核心阵营。它们强调要尽早采取的预防措施是禁止发展、交易、部署和使用致命自主武器，从而彻底排除自主武器系统对人类造成巨大伤害的可能性。c 另一方面，美国拉拢盟友在2022年7月的《特定常规武器公约》政府专家会议上发布《致命自主武器系统领域新兴技术的原则和良好实践》，提出武器发展的全生命周期只要符合相关规制便是所谓的“良好实践”。发达国家联盟强调“良好实践”的原因是，它们认为完 ⒸPeterAsaro,“OnBanningAutonomousWeaponSystems:HumanRights,Automation,andtheDehumanizationofLethalDecision-making,”InternationalReviewofTheRedCross,Nov.2012;PeterAsaro,“OnBanningAutonomousWeaponSystems:HumanRights,Automation,andtheDehumanizationofLethalDecision-making,” InternationalReviewofTheRedCross,Nov.2012 c朱荣生、乔光宇、苏适：《致命性自主武器全球治理中“人类控制”的联盟政治》，清华大学战略与安全研究中心，2023年第1期。 全自主的致命性自主武器还没有出现，当前的致命性自主武器处在“有意义的人类控制”之下，就算致命性自主武器还存在一些技术风险，这些风险也会随着科技的进步而得到缓解。上述针锋相对的立场呈现出国际社会对规制致命性自主武器不同的路径和最终指向，而这种分歧恐怕在短期内是难以化解的。 （二）机制集团化：全球安全治理结构正趋向西方主导的政治“中心化” 图1：人工智能全球治理主要机制 经济与合作发展组织、二十国集团以及人工智能全球伙伴组织是具有一定代表性的人工智能安全治理多边机制。从图1可看出，七国集团成员、澳大利亚、印度等等是这三个国际论坛的核心成员，中国与俄罗斯两个大国只是“二十国集团人工智能原则”的参与国。尽管 朱荣生、乔光宇、苏适：《致命性自主武器全球治理中“人类控制”的联盟政治》，清华大学战略与安全研究中心，2023年第1期。 “中心化”的国际治理结构更有利于反应某些国家的关切、凝聚中心参与者的共识，但是这难免会让其他成员的治理主张边缘化。尤其是处于核心地位的美国正利用其在国际平台中的“核心地位”打造民主 /威权集团对抗的治理结构，增加了不同成员推动人工智能全球安全治理合作的困难。 一是把美国的价值观嵌入“二十国集团人工智能原则”的文本中。2019年5月，经济合作与发展组织公布了经多个国家和国际组织研讨后的人工智能原则建议。在该原则通过后，特朗普政府的白宫首席技术官迈克尔·科雷特西奥斯（MichaelKratsios）指出，“历史上第一次，美国和世界上志同道合的民主国家将致力于共同的人工智能原则，来反映我们共同的价值观和优先事项。”Ⓒ从结果来看，经济合作与发展组织人工智能原则的最终文本基本与《美国人工智能倡议》行政令的基调一致。f该原则建议后被二十国集团正式采纳为其人工智能原则。 二是美国加强与北约就人工智能军事应用的协调，逐步吸收新兴经济体并完善五眼联盟、四边安全对话、“人工智能国防伙伴关系”等机制，不断将人工智能议题纳入到遏华的亚太“小多边”安全体系中。这些行动的官方基调是西方需要共同捍卫芯片供应链安全，确保标准制定权不落入中国手中，以及协调集体安全军事安全行动。北约人工智能战略着力推动人工智能互操作性、技术标准对接、人力资本发展等；五眼联盟成员将制定解决人工智能应用和互操作性的方法，包括与北约一起搭建测试和应用人工智能的平台；四边安全对话将在美国、日本、印度、澳大利亚四方合作框架的基础上深化人工智能合作，并在印度-太平洋地区谈判达成正式的人工智能合作协议。由此 Ⓒhttps://www.whitehouse.gov/ai/ai-american-values/. f李括：《美国科技霸权中的人工智能优势及对全球价值链的重塑》，《国际关系研究》2020年第1期，第41页。 来看，美国正将人工智能治理议题安全化，将盟友推上新一轮军事竞争和规则制定权争夺的轨道。 三是美国聚拢西方国家搞排斥中国的新制度，拉拢盟友力推“人工智能全球合作伙伴”，肆意制造“中国滥用人工智能技术”的论调和阵营对抗。七国集团在2016年4月的信息通信技术（ICT）部长会议讨论了人工智能技术及应用监管议题。从2016年到2019年，七国集团（G7）以人工智能负责任应用及监管为核心的议题逐渐成熟。法国和加拿大倡议组建工作小组，并希望在2020年初正式启动人工智能全球合作伙伴（GPAI）。Ⓒ白宫官员则对此方案持保留意见，强调该计划过度谨慎的监管规则会威胁和妨碍技术发展，并且认为经济合作与发展组织已经建立专家组并向成员国提供政策建议，所以人工智能全球合作伙伴是在重复经济合作与发展组织的工作。h法国数字事务部长塞德里克·奥（CédricO)试图说服迈克尔·克拉西奥斯，表示，“如果你不希望西方国家采用中国模式，比如用人工智能来控制人口，你就需要建立一些普遍的规则。但这只针对一个国家”。考虑到继续反对该计划恐将让美国在西方集团内失去人工智能治理的规则主导权，而加入其中则可以借此扭曲中国的人工智能应用，美国最终决定支持启动人工智能全球合作伙伴。 （三）知识供给匮乏：人工智能安全治理知识供给不均衡、不充足 先进人工智能技术的创新和大规模应用集中于少数大国。全球人工智能的研究在2020-2021年间共出版17万本期刊论文和七万部会议论文，中国、美国、欧盟和英国的出版物占据了其中的绝大多数。i Ⓒ“TheWorldHasaPlantoReininAI—ButtheUSDoesn’tLikeIt,”Wired,Jan.62020,https://www.wired.com/story/world-plan-rein-ai-us-doesnt-like/. hIbid. i杰克·克拉克等：《人工智能指数2022年度报告》，2022年，https://aiindex.stanford.edu/wp-content/uploads/2022/06/2022-AI-Index-Report_Chinese-Edition.pdf 纵观全球军用人工智能发展格局，有能力大规模研发、制造、部署和使用先进军用人工智能也只有大国。或许，从人工智能技术在俄乌冲突中的应用、伊朗核科学家和苏莱曼尼将军被“定点清除”、无人机助力阿塞拜疆取得“纳卡冲突”制空权等战例来看，相关武器的购买成本不是高不可攀。但是，大国在开发和评估新武器系统方面有更强大的能力，而弱国采购进行评估和创新的能力较弱。仅从目标识别环节来看，军用人工智能系统需要一个国家有强大的情报侦察能力以提供规模大和质量好的数据。而拥有更多的研发资金、科研人力和实战化训练的大国能够比中小国家获取更多、更好的战场数据。因此，大国可以开发出更加先进的算法和硬件。这意味着中小国家推动军备智能化升级和技术评估的天花板要低于大国，它们的人工智能安全治理的知识积累要弱于强国。j 表1：2010-21年人工智能期刊出版量（占世界总量的%） j朱荣生、陈嘉澍、冯紫雯、陈琪：《人工智能军事目标识别的赋能效度和合规风险初探》，《计算机工程与应用》，2022年8月15日，第58卷。 杰克·克拉克等：《人工智能指数2022年度报告》，2022年，https://aiindex.stanford.edu/wp-content/uploads/2022/06/2022-AI-Index-Report_Chinese-Edition.pdf 表2：2010-21年人工智能会议出版物（占世界总数的%）情况 二、峰会关于人工智能军事化及其治理的主要观点 2023年2月15-16日，荷兰主办全球军事领域负责任的人工智能峰会（REAIMSummit）（以下简称“峰会”）。围绕人工智能的技术特性，负责任地开发和使用人工智能，以及探索人工智能治理框架等三个主题，峰会吸引了来自100个国家的2000余名参会者，以及80名政府代表的参加。60多个国家赞同了峰会发布的“行动倡议”。在这场后疫情时代关于军用人工智能治理的线下峰会中，与会代表普遍对人工智能的军事应用抱有较高期待，认为它将引发新一轮的战场革命，但也担忧对技术的滥用恶用将加剧国际安全的不确定性。总体看，会议讨论的内容反映出当前人工智能军事化及其治理的一些新动向。 （一）人工智能将对军事领域产生颠覆性影响 在峰会的高端会议上，美国、芬兰、澳大利亚、立陶宛、马来 杰克·克拉克等：《人工智能指数2022年度报告》，2022年，https://aiindex.stanford.edu/wp-content/uploads/2022/06/2022-AI-Index-Report_Chinese-Edition.pdf 西亚等国与会者强调，人工智能是一项强大的赋能技术，将在军事领域掀起新一轮变革。荷兰外交部部长沃普克·霍克斯特拉（WopkeHoekstra）断言，人工智能有潜力彻底改变取得战争胜利的方式。韩国外交部长朴振表示，军事智能化有利于提高作战反应能力和减少误伤平民的可能性。他强调，韩国国防部推出“国防改革4.0”的一项重要目标是，将人工智能深度融入到军备建设。鉴于对人工智能技术增强国防预期的固化，世界主要国家将加速军事智能战略规划的制定和落实