国际战略与安全研究报告：致命性自主武器全球治理中“人类控制” 的联盟政治

2023年第1期（总第34期） REPORT 致命性自主武器全球治理中“人类控制”的联盟政治 致命性自主武器全球治理中“人类控制”的联盟政治 朱荣生、乔光宇、苏适a 随着人工智能技术加速融入到武器系统和军事作战体系，人们愈发关注它将对国际和平与安全产生的重大影响。自2014年以来，国际社会在联合国《特定常规武器公约》框架下针对以致命性自主武器为代表的人工智能军事化的挑战和治理进行了激烈的辩论。在2016年， 《特定常规武器公约》致命性自主武器政府专家组正式成立，并成为相关讨论的重要国际机制。尽管参与谈判的缔约国对这项新兴全球治理议题的理解越来越深入，但是在如何定义致命性自主武器以及人类对武力使用控制的方式和必要程度方面有不小的分歧。缔约国对于人类履行相关控制责任所涉及到的技术、操作、决策等方面有着不同的 理解。Ⓒ这在某种程度上可以归结为对致命性自主武器中“人类控制” 议题的持久争论。围绕这一议题，国际社会形成了多个政治联盟。其 中政治立场和治理分歧较为明显的是以美国为代表的发达国家集团和以十三国政治联盟为代表的发展中国家集团。c a朱荣生，启元实验室战略规划部青年研究员；乔光宇（GuangyuQiao-Franco），拉德堡德大学国际关系助理教授、南丹麦大学AutoNorms项目高级研究员；苏适，长安大学建筑工程学院本科生。 本文是国家社会科学基金“人工智能的国际安全挑战与规范演进研究（项目编号：21CGJ012）”的阶段性成果。 Ⓒ“AreasofAlignment.CommonVisionsforaKillerRobotsTreaty,”pp.12-17, https://www.hrw.org/sites/default/files/media_2021/07/07.2021%20Areas%20of%20Alignment.pdf. c十三国集团的成员是阿根廷、哥斯达黎加、厄瓜多尔、危地马拉、哈萨克 斯坦、尼日利亚、巴拿马、秘鲁、菲律宾、巴勒斯坦、塞拉利昂、委内瑞拉和乌拉圭。 基于政府专家组会议成员发布的文件、21次对不同国家代表团成员的访谈以及六次旁听政府专家组会议的记录，我们梳理了这两个具有巨大价值观差异和鲜明对立观点的联盟的安全关切和道德主张。我们发现，这种对“人类控制”概念的理解差异和不同期待深受国防研发能力、国际谈判资源、武力使用的历史经验等因素的影响。 一、“人类控制”议题下的政治联盟 自2016年政府专家组成立以来，相关讨论曾一度深陷对自主化、自动化、智能化等基本概念的循环争论。而“人类控制”概念的提出将国际争论的焦点引向了新的方向。尽管这一概念至今还存在模糊性，但这在某种程度上为各方提供了一个阐释不同立场的弹性空间。在2019年政府专家组会议达成的指导性原则中就提出，要探索在不同的武器生命周期里融入人类控制的可能性。联合国裁军研究所（UnitedNationsInstituteforDisarmamentResearch）在2020年出版了一份报告，讨论在政治、战略、战术、作战等各个阶段加强人类的监管控制。同年6月，瑞典斯德哥尔摩和平研究所和红十字国际委员会从武器参数的控制、使用环境的约束、适当的决策监督等三方面提出了人类对致命性自主武器系统的监管建议。Ⓒ这两份报告的内容折射出，相比于对技术概念的无尽争论而难以达成政治共识，人们对什么是“适当”的人类控制以及如何落实这一概念有着更大的探索动力。 MayaBrehm,“DefendingtheBoundary:ConstraintsandRequirementsontheUseofAutonomousWeaponsSystemsunderInternationalHumanitarianandHumanRightsLaw,”GenevaAcademyofInternationalHumanitarianLawandHumanRights,No.9,2017. ⒸBoulanin,Vincent,NeilDavison,NettaGoussac,andMoaPeldánCarlsson, “LimitsofAutonomyinWeaponSystems.IdentifyingPracticalElementsofHumanControl,”StockholmInternationalPeaceResearchInstitute,June,2020. （一）以美国为代表的发达国家主张建立非约束性原则 在《特定常规武器公约》政府专家会议上，美国较早使用的概念是“人类判断”(humanjudgement)，而非“人类控制”。在美国2018年4月提交的立场文件中，“适当”的“人类判断”在某种程度上被宽泛地理解为不存在一个固定的、适用于所有情况的人类判断标准。f而美国认为，自主武器在“适当”的“人类判断”下可以起到更好的提高军事防御能力的作用。例如，“密集阵”近防武器系统、“宙斯盾”武器系统和“爱国者”防空导弹防御系统可以协助人类瞄准来袭炮弹。Ⓒ由于公民社会组织和一些发展中国家愈发强烈地“禁武”呼声带来的武器发展压力，以美国为代表的发达国家逐渐接受“人类控制”这一概念。2021年6月，美国、英国、澳大利亚、加拿大和日本五国首次提交了联合立场文件，强调“人类判断”对确保致命性自主武器符合国际人道主义法至关重要。这标志着该联盟的初步形成。h 美国等发达国家组成的联盟主张对致命性自主武器建立一个相对宽松的、自愿性的国际规制清单。2022年3月7日，美国牵头澳大利亚、加拿大、日本、韩国、英国制定了《致命自主武器系统领域新兴 fTheUnitedStates.(2018,April9–13).Humanitarianbenefitsofemergingtechnologiesintheareaoflethalautonomousweaponsystems.U.S.Delegationto theCCW.https://ogc.osd.mil/Portals/99/Law%20of%20War/Practice%20Documents/US%20Working%20Paper%20-%20Humanitarian%20benefits%20of%20emerging%20technologies%20in%20the%20area%20of%20LAWS%20-%20CCW_GGE.1_2018_WP.4_E.pdf?ver=O0lg6BIxsFt57nrOuz3xHA%3D%3D,para.9-11. ⒸIbid. hBuildingonChile’sProposedFourElementsofFurtherWorkfortheConvention onCertainConventionalWeapons(CCW)GroupofGovernmentalExperts(GGE)onEmergingTechnologiesintheAreaofLethalAutonomousWeaponsSystems(LAWS),https://reachingcriticalwill.org/images/documents/Disarmament-fora/ccw/2021/gge/documents/Australia-et-al.pdf. 技术的原则和良好实践》。i该份文件提出了发展致命性自主武器的全生命周期只要符合相关规制便是所谓的“良好实践”。这些“良好实践”要求确保武器从研发到测试和运行都要有人类的监管，这些监管要符合国际人道主义和安全政策要求。而且，武器的使用者也必须接受相应的培训。发达国家联盟强调“良好实践”的原因是，他们认为完全自主的致命性自主武器还没有出现，当前的致命性自主武器处在“有意义的人类控制”之下，就算致命性自主武器还存在一些技术风险，这些风险也会随着科技的进步而得到缓解。 （二）十三国集团力推达成有约束力的国际公约 较为悲观的观点认为，致命性自主武器的现实应用很难保证不会冲击交战规则，因而应尽早达成一项有约束力的国际公约以管制自主武器系统的研发、部署和应用。相关实践方面，人权观察组织、红十字国际委员会等国际组织加入“禁止杀手机器人”运动，并且极力倡导达成一项具有约束力的国际禁武条约。2012年11月9日，人权观察组织发布报告认为，自主武器从根本上违反国际人道主义法和战争法的精神，建议国际社会不仅要达成有国际法约束力的文书，各国还要制定法律在其大规模应用前进行全面禁止。j一些国际组织还不断细化禁武标准。2022年6月29日，“禁止杀手机器人运动”发布报告强调，不只是国家 要停止生产、占有、获得、部署和转让致命性自主武器，研发人员、工程师、制造商、供应商也要被纳入到禁武条约的监管范围内。 iAustralia,Canada,Japan,theRepublicofKorea,theUnitedKingdom,andtheUnitedStates,“PrinciplesandGoodPracticesonEmergingTechnologiesintheAreaof LethalAutonomousWeaponsSystems,”March7,2022,https://reachingcriticalwill.org/images/documents/Disarmament-fora/ccw/2022/gge/documents/USgroup_March2022.pdf. jBonnieDocherty,“Losinghumanity:Thecaseagainstkillerrobots,”Human RightsWatch,2012,p.5. “NegotiatingaTreatyonAutonomousWeaponsSystems-TheWayForward,”June29,2022,https://www.stopkillerrobots.org/wp-content/uploads/2022/06/Stop-Killer-Robots-Negotiating-a-Treaty-on-Autonomous-Weapons-Systems-The-Way-Forward.pdf. 另一方面，技术弱国与公民社会组织有相似的主张。随着对致命性自主武器的认知程度逐渐提高，它们更加坚定地反对在国际谈判场合讨论军事无人化的好处，并且联合发布禁止致命性自主武器的路线图。古巴认为，《特定常规武器公约》不是考虑无人武器系统好处或军用人工智能优点的地方，而是要禁止和管理某些常规武器；巴基斯坦也认为，《特定常规武器公约》旨在结束军备竞赛、实现裁军以及编纂和发展相关国际法。它们的核心主张是，《特定常规武器公约》是裁军平台，而非探讨武器发展带来战争优势的地方。 部分发展中国家强调，不论机器有多么完善，都不能将致命权交给机器。一些发展中国家自2017年以来依托不结盟运动推动致命性自主武器的治理进程，但代表成员的复杂性让众多成员难以发出统一的声音。然而，哥斯达黎加、巴拿马、秘鲁、菲律宾、塞拉利昂共和国和乌拉圭不满于不结盟运动在推动禁止致命性自主武器上的低效，在2021年6月的非正式谈判会议中以联合递交立场文件的方式组成了 更为激进的“禁武”联盟。在2022年7月的《特定常规武器公约》政府专家会议上，阿根廷、哥斯达黎加、危地马拉、哈萨克斯坦、尼日利亚、巴拿马、菲律宾、塞拉利昂、巴勒斯坦、乌拉圭等十个国家联合递交了《自主武器系统新协议路线图》和《特定常规武器公约第六议定书》。到了2022年12月，该联盟的数量达到了13个，正式形成 RayAcheson,“CCWReport”,Vol.10,No.6,https://reachingcriticalwill.org/disarmament-fora/ccw/2022/laws/ccwreport/16301-ccw-report-vol-10-no-6. 《特定常规武器公约》已有五个公约书分别是《