人工智能与军备控制（英）

技术、国家安全|2022年10月 人工情报和 军备控制 保罗Scharre和梅根兰博斯 关于作者致谢 保罗Scharre是一副总裁兼董事 研究区域。他是获奖的作者军队没有:自治 武器和未来的战争,并赢得了2019年的科尔比奖 比尔盖茨的一个2018年前五本书。博士。 Scharre部长办公室的工作布什和奥巴马防御 政府,他发挥了主导作用在建立无人和政策 自治系统和新兴武器 技术。他领导了美国国防部工作组起草国防部指令3000.09、建立部门的政策 在武器系统的自治。他担任着一个伦敦国王学院战争研究博士学位和政治经济和公共政策硕士学位 和物理学学士学位,以优等成绩毕业者圣路易斯华盛顿大学。之前 在部长办公室工作 国防、Scharre担任步兵,狙击手,侦察团队领袖 陆军第三骑兵营和完成 多次赴伊拉克和阿富汗。他是一个毕业于陆军空降,管理员 狙击手学校和荣誉毕业的第75位骑警团的骑警教化 程序。 梅根兰博斯是一个副研究员, 技术和国家 安全计划在美国。她在加入区域 斯考克罗夫特研究员吗 作者感谢丽贝卡Crootof博士, 迈克尔·c·霍洛维茨博士和英里Brundage他们的有价值的反馈和建议 报告草案。感谢CNAS的同事 莫拉麦卡锡,艾玛Swislow,旋律厨师,RinRothback、和安娜Pederson角色审查、生产和设计 报告。我们还要感谢前CNAS实习生小菁(JJ)曾庆红和莫妮卡Bochert为他们研究支持和帮助在审查 并最终确定。任何错误,是作者的责任。这 部分报告成为可能的 慷慨支持开放的慈善事业。 作为一个致力于研究和政策机构组织的最高标准, 知识和个人诚信,必须严格的知识和独立 对其想法的唯一编辑指导和控制，项目、出版物、事件和其他 研究活动。CNAS并不需要机构在政策问题上的立场, CNAS出版物的内容反映了观点仅其作者。符合其使命 和价值观,必须不参与游说活动,须完全符合所有适用的 联邦、州和当地的法律。始终不会从事任何具象或活动 倡导代表任何实体或利益 ,在某种程度上,中心接受 来自非美国的资金来源，其活动将是有限的,真正的学术,学术和 研究性的活动,符合 适用的联邦法律。中心公开 承认在其网站上每年所有捐助者他的贡献。 她与阿斯彭策略组 帮助矛头的计划和执行 阿斯彭战略集团的2018年夏季车间和两个交易日的阿斯彭 部长论坛。兰博斯得到了她的硕士学位从布什学院国际事务 政府和公共服务在德州农工大学大学。她毕业于萨姆。休斯顿 州立大学刑事司法专业学士学位。 附录C:国际协议的列表51 附录B：历史上军备控制企图摘要44 附录A：历史上军备控制企图的案例研究17 前方的路16 对人工智能11 为什么有些军备控制措施成功，有些则失败7 愿望和军备控制的可行性4 理解军备控制2 介绍1 表的内容 新美国安全中心 1152th950套房,华盛顿特区20005NW街 T:202.457.9400F:202.457.9401CNAS.org@CNASdc 介绍 人工智能（AI）的进步为世界各地的军队带来了巨大的机遇。有了这个人工智能军事系统的潜力不断上升，一些活动人士正在敲响警钟，呼吁限制或完全禁止某些支持AI的武器系统。1相反,怀疑论者的人工智能武器控制论点认为，作为在民用环境中开发的通用技术，人工智能将是 异常难以控制。2人工智能是一种具有无数非军事应用的使能技术;这因素将其与许多其他军事技术（如地雷或导弹）区分开来。3因为 它的广泛可用性，绝对禁止人工智能的所有军事应用可能是不可行的。有但是，有可能禁止或规范特定的用例。 国际社会有时禁止或管制不同程度的武器： 成功。在某些情况下，例如禁止永久致盲激光，军备控制已经奏效。迄今为止非常好。然而，在其他情况下，例如试图限制不受限制的潜艇战争或对城市的空中轰炸，国家未能在战争中实现持久克制。各州 控制或管制武器的动机各不相同。各国可设法限制武器的扩散特别破坏政治或社会稳定，导致平民伤亡过多，或 导致不人道的受伤战士。 本文通过探索历史，探讨了军备控制在人工智能军事应用中的潜力。试图进行军备控制的案例，分析成功和失败。论文的第一部分 探讨与为什么某些军备控制措施成功而其他措施成功相关的现有学术文献失败。然后，本文件提出了影响军备控制成功的若干标准。4最后,它 分析人工智能军备控制的潜力，并为政策制定者建议下一步行动。详细的历史军备控制未遂的案例——从古代禁令到现代协议——可以在以下位置找到：附录A。 历史告诉我们，政策制定者、学者和公民社会成员可以采取具体措施。今天提高未来人工智能军备控制成功的机会。这些包括采取政策 采取行动塑造技术发展的方式，并增加各级对话以更好地了解 AI应用程序如何在战争中使用。任何人工智能军备控制都将具有挑战性。可能有然而，在适当的条件下可以进行军备控制的情况，以及今天采取的小步骤可以有助于为未来的成功奠定了基础。 理解军备控制 “军备控制”是一个广义的术语，可以包括各种不同的行动。通常，它指的是各州为控制研究、开发、生产、实地考察或就业而签订的协议 某些武器、武器特征、武器应用或武器运载系统。5 类型的军备控制 军备控制可以发生在武器开发和使用的许多阶段（见图1）。不扩散制度，如《核不扩散条约》（NPT），旨在防止获得某些武器背后的底层技术。（正式条约名称清单见附录C和 非正式标题和缩略语）。禁止，例如关于地雷和集束弹药的禁令，允许获得技术，但禁止发展，生产或储存武器。军备限制条约 许可生产;他们只是限制了各国可以拥有的某些武器的数量。 和平时期。6其他协定对武器在战争中的使用作出规定，以某种方式限制其使用，或完全禁止使用。 图1.武器开发和使用整个生命周期的军备控制措施 军备控制可以通过各种手段实施，包括具有法律约束力的条约、习惯法长期从国家实践中产生的国际法，或无法律约束力的文书。成功的 军备控制甚至可以通过默契来实现，这些默契之间没有明确说明。状态，但仍然导致相互克制。 国家之间的军备控制是例外，而不是规则。7大多数时候,国家的竞争没有正式或非正式军备控制机制的军事技术来限制其 竞争。有几个因素使军备控制具有挑战性。军备控制需要一定程度的国家之间的协调和信任，以及最需要军备控制的情况—— 激烈的军事化竞争或战争——是最困难的协调和信任。8可能实现信任的那种监控和验证也是一个挑战，因为 可能减轻竞争对手对武器开发的担忧的透明度也可能揭示出来自身军事力量的脆弱性，使国家不愿采取此类措施。9 尽管面临这些压力，各国有时仍成功地限制了武器的发展或使用。即使在全面战争的高峰期，各国也寻求相互克制，避免使用某些武器、武器特征或会使战斗升级或不必要增加的战术 痛苦。10本文的关键问题不是为什么军备控制很少见，而是为什么它在某些方面取得了成功。实例,而不是别人。 影响军备控制成败的因素 肖恩·瓦茨和丽贝卡·克罗托夫分析了历史上军备控制案例，以确定哪些社会，法律，技术因素影响军备控制是否成功。 瓦茨确定了六个标准，他认为这些标准会影响武器的耐受性或对监管的抵抗力：有效性，新颖性，部署，医疗兼容性，破坏性和恶名。11一个有效的 提供对敌方目标的“前所未有的准入”并有能力确保支配地位在历史上是抵制监管的。在管制新型武器或 纵观历史的军事系统。各国已寻求对某些新武器进行管制，或武器运载系统（如空中轰炸），同时也抵制对其他新型的监管军事系统（如潜艇）。广泛部署的武器——“并入国家军队” 行动“——往往抵制军备控制。造成“与现有伤口相容的伤口”的武器军事和野战医院的医疗协议“在历史上很难禁止或监管。强 各国历来试图规范或禁止“在社会和军事上具有破坏性”的武器担心这种武器可能会颠覆现有的全球或国内权力动态。民间运动社会团体或公众的广泛反对可能会增加恶名，使武器 可能更容易军备控制。12 克鲁托夫的模型与瓦茨的模型重叠，但她的重点是武器禁令，而不是军备控制。更一般地说。她指出了影响武器禁令成功的八个因素。13武器, 造成多余的伤害或不必要的痛苦，或者本质上是不分青红皂白的，更有可能被禁止。各国倾向于抵制管制或禁止具有军事或 战略效用。独特的武器或为一个国家提供“实现目标的唯一手段” 某些目标“很难规范或禁止。一个狭隘的禁令，明确定义了什么是和不是允许更有可能有效。关于武器的现有条约或条例可能使未来 军备控制更成功，除非技术发展增加武器的军事效用。 宣传团体和公众舆论可能会影响各国对武器禁令的审议，尽管， 正如克鲁托夫所指出的，“这个因素远非决定性的。最后，武器禁令的成功受到以下因素的影响：愿意支持禁令的国家总数以及哪些国家同意签署禁令。14 瓦茨和克鲁托夫一致认为，武器的有效性可以说是最重要的因素，影响军备控制的成功。虽然他们的解释略有不同，但两者都认为具有独特价值能力的武器很难监管。沃茨专注于社会或军事 武器的破坏性——武器破坏现有力量平衡的能力。虽然 他认为，强国可能会寻求限制破坏性武器，但这些努力很少成功。 Crootof认为，一种武器的独特之处在于其“造成某种类型破坏的能力”或完成某些军事目标可能难以进行军备控制。15 下一节将以他们的模型为基础，提出一种略微修改的理解方法影响不同技术军备控制成败的因素。 愿望和军备控制的可行性 军备控制是成功还是失败，既取决于其可取性，也取决于其可行性。可取性军备控制包括国家对武器感知的军事价值与其军事价值的计算 感知到的可怕（因为它是不人道的，不分青红皂白的，或对社会或政治的破坏订单）。因此，军备控制的可取性取决于各国希望保留武器供本国使用。 目的与他们限制对手使用它的愿望相平衡。 军备控制的可行性——影响其成功的社会政治因素——包括国家的能力。明确所希望的克制程度，即各国遵守协议的能力 限制使用，各州验证合规性的能力，以及确保安全所需的州数量合作使协议成功。军备控制在以下两者中都有最大的成功机会愿望和可行性很高。 当国家行为受到限制时，军备控制被认为是成功的——在武器发展、数量方面生成、部署状态或使用。为本文件的目的，未能通过的军备控制协定 约束状态行为不被认为是成功的。在极少数情况下，克制是通过默示发生的协议，没有任何正式条约或其他机制。然而，一般来说，正式协议是 国家之间有用的协调机制，以明确什么是允许的，什么是不允许的。 在许多情况下，成功存在于一个频谱上。很少有军备控制协议是100%成功的，零违规。一些最成功的协议，如现代化学品禁令和 生物武器或限制核武器扩散，有一些例外和违反者。其他协议仅在一段时间内成功，之后技术或政治 环境以导致它们崩溃的方式发生变化。然而，即使部分成功协议对于通过改善稳定性、减少平民伤亡或 减少战斗的痛苦。 军备控制的愿望 一种有效的武器，赋予独特的访问权限或能力，或提供决定性的战场优势具有很高的军事价值。虽然放弃并非不可能，但各国将不愿意放弃提供关键优势或独特能力的武器，即使该武器可以说 造成其他重大伤害。武器的军事价值是影响 军备控制的可取性。最重要的是，各国希望确保自己的安全。 与武器的价值相比，它被认为是可怕的-这意味着它造成的伤害类型，它的 稳定风险，其对社会或政治秩序的影响，或其不分青红皂白的性质。虽然大多数成功的禁令是针对不是特别有效的武器，建议 对于任何具有军事价值的武器，禁令都是不可行的。战争是可怕的，国家有时寻求通过限制其行动或能力的军备控制措施来缓和其恐怖。 各国经常试图限制在战争后期增加战斗员或平民痛苦的武器。这是战场效力所必需的。国家有时限制造成多余的武器 对战斗人员造成的伤害或不必要痛苦，例如，如果这种武器不被视为独特有效的。16例如，在体内留下玻璃碎片的子弹会造成多余的伤害 除此之外，还需要使战斗人员失效并在战场上获胜，因为玻璃碎片不是可通过X射线检测，因此更难从伤员身上取出。（武器 根据《某些公约》，禁止在体内留下无法察觉的碎片 我的武器协议。17各国还试图对武器或武器运载进行军备控制。难以以区别对待的方式使用以避免平