中美竞争与军事人工智能（英文）

2023年7月 美中竞争与军事AI 华盛顿如何在与北京的竞争中管理战略风险 雅各布·斯托克斯和亚历ft大·沙利文与诺亚·格林 关于作者 雅各布·斯托克斯是CNAS印度太平洋安全计划的高级研究员，他的工作重点是美中关系，中国外 交政策，东亚安全事务和大国竞争。他曾在白宫担任国家安全事务 Acknowledgments 作者感谢美国和其他地方的许多官员和专家，他们分享了 他们在这个项目过程中的观点。他们特别感谢乔尔·乌斯诺，凯文·波利特，J.MichaelDahm，JacqelyScheider，AdamSegal和JamesActo为该项目的工作组提供了有见地的演讲。还要感谢VicetBolai，PalScharre和 时任副总统拜登的工作人员。他还曾担任美中经济与安全审查委员会的专业工作人员，美国参议员艾米·克洛布查尔的顾问，以及美国和平研究所中国项目的高级分析师。他是外交关系委员会的任期成员。 亚历ft大·沙利文是CNAS印度太平洋安全计划的兼职研究员，他专注于美中关系，中国外交政策以及经济与安全的关系。 诺亚·格林是CNAS人工智能安全与稳定项目的项目助理。他的投资组合包括人工智能在美国，俄罗斯，中国和欧洲的军事应用研究。 关于印度-太平洋安全计划 CNAS印度-太平洋安全计划解决了美国在该地区的机遇和挑战，越来越关注起源于印度-太平洋地区但具有全球影响的问题。它借鉴了 在区域研究方面具有深厚的政府和非政府专业知识的团队，美国S.外交和国防政策，以及国际安全。印度-太平洋安全计划分析趋势，并围绕五个主要研究重点生成实用和创造性的政策解决方案：S.-中国的战略竞争，印度在印太地区日益重要的作用，美国的联盟和伙伴关系，朝鲜的威胁，以及南亚和中亚的挑战。 关于人工智能安全与稳定项目 CNASAI安全与稳定项目是一项为期多年、多项目的工作，旨在解决与人工智能相关的既定和新出现的风险。 我们的工作重点是预测和减轻灾难性的AI故障;改善美国国防部的AI测试和评估流程;理解和塑造计算机会 治理；了解中国在人工智能和稳定性方面的决策；了解俄罗斯在人工智能和稳定性方面的决策。 LisaCrtis对手稿的专家评论，以及MaraMcCarthy的敏锐编辑。最后，如 果没有许多CNAS同事的帮助，包括丽贝卡·维特纳，旋律·库克，林·罗斯巴克，艾莉森·弗朗西斯，杰克·彭斯，艾玛·斯威斯洛和莱斯利·梅伦德斯。此处提供的观点不代表CNAS或任何其他组织的观点，作者对事实，分析或遗漏中的任何错误负全责。在公开慈善事业的慷慨支持下，这份报告得以实现。 作为一家致力于组织，知识和个人诚信的最高标准的研究和政策机构，CNAS保持严格的知识独立性和对其思想，项目，出版物，活动和其他研究活动的唯一编辑指导和控制。CNAS在政策问题上不采取机构立场，CNAS出版物的内容仅反映其作者的观点。根据其使命和价值观，CNAS不参与游说活动，并完全遵守所有适用的联邦、州和地方法律。CNAS不会代表任何实体或利益参与任何代表活动或宣传，并 该中心在接受非美国来源资助的范围内，其活动将仅限于与适用的联邦法律相一致的真正的学术，学术和研究相关活动。该中心每年在其网站上公开承认所有捐款的捐助者。 TABLEOFCONTENTS 01执行摘要 02Introduction 02北京的AI计划和AI在中国军事现代化中的作用 06战略风险路径军事AI可能在美中关系中造成或加剧从军事AI管理战略风险的11种选择 14对政策制定者的建议 17结论 执行摘要 T 国际安全环境中的两种构造趋势似乎正在碰撞。 第一个趋势是美国和中华人民共和国（中华人民共和国或中国）之间的地缘政治竞争加剧。第二个趋势是人工智能（AI）技术的快速发展，包括军事应用。本报告探讨了美国如何管理战略风险-定义为武装冲突或核战争威胁的增加-可能由军事AI在与中国的关系中造成或加剧。 首先概述了中国对AI的看法和政策。北京认为AI在其民用经济和现代化中都发挥着作用 在国内，中国领导人希望利用人工智能来促进增长和创新，应对经济和社会挑战，并确保中国共产党(CCP)的国内统治。 AI在中国的军事野心中也发挥着关键作用，尤其是其在本世纪中叶成为“世界一流军队”的目标，部分原因是其部队的“智能化”。智能化依赖于将AI和其他新兴技术与 中国认为，其治理模式，包括其军民融合政策，赋予北京相对于华盛顿的竞争优势。然而，实现这一愿景仍然不确定，需要中国克服外部和内部障碍。 接下来，该报告阐述了作者所说的五类途径或因果关系，通过这些途径，军事人工智能的应用可能会破坏华盛顿和北京之间的稳定性并增加战略风险。首先是个人能力的提高，这些能力共同赋予中国军事优势。第二是人工智能对决策和信息领域的影响。第三是无船员的自治系统。第四是情报、监视和侦察。第五是指挥、控制和通信。 报告对每种途径的讨论提供了有关它们如何发挥作用的复杂性的更多细节。 总之，军事人工智能的出现可能会加深美中竞争并增加战略风险。决策者可以借鉴三类应对方案。这些包括限制中国的军事人工智能，同时提高美国自身的能力- 联系；参与军事人工智能的单边负责任管理；追求双边和多边优势以减少战略风险。华盛顿已经在所有三个类别中采取了行动，外国资本也同样寻求塑造军事人工智能环境。为了在迄今采取的行动基础上，美国政策制定者应该： ◾为了军事和镇压目的，采取大胆的行动来限制中国在人工智能方面的进步，但要以狭隘的方式这样做，避免弄巧成竹的步骤； ◾建立美国军事AI能力以保持领先地位； ◾制定、颁布和实施关于负责任的军事人工智能的规范和最佳实践 ； ◾积极与志同道合的盟友和合作伙伴以及多边机构就军事人工智能问题进行接触； ◾与中国就军事人工智能相关的降低风险和建立信任措施进行谈判； ◾尽管存在持续挑战，但继续追求普遍的中美风险降低和危机管理机制； ◾使军事人工智能成为与中国有关核武器和战略稳定的外交的基本支柱； ◾采取措施减少不是由军事人工智能直接造成的战略风险 ，但可能因军事人工智能的固有速度和不可预测性而恶化； ◾优先收集和分析中国军事人工智能能力，并对其进行净评估。 Introduction T国际安全环境中的两种构造趋势似乎正在发生碰撞。第一个趋势是愈演愈烈 美国和中华人民共和国(中华人民共和国或中国)之间的地缘政治竞争。自2010年代中期以来，华盛顿和北京之间的关系已经演变成美国总统拜登所说的“极端”战略竞争，跨越外交、经济、军事和政府领域。1两国领导人进一步断言，新兴技术将在两个超级大国之间关于全球力量未来的竞争中发挥决定性作用 ，包括通过塑造军事平衡。 第二个趋势是人工智能（AI）技术的快速发展。最近的AI突破，例如ChatGPT，DALL•E和其他生成AI模型，在全球头条新闻中大放异彩，并在创纪录的时间内积累了天文数字。2它们说明了新兴技术一旦成熟，将如何迅速彻底改变整个行业。人工智能的重大发展在很大程度上 beenlimitedtothecivilsectorsofar.However,AIsystemsthatcanbeusedforarangeofmilitaryapplications—abroadcategorythisreportreferredtousingtheshorthandmilitaryAI—aresame 这两种趋势的结合有可能增加本报告所称的战略风险。该术语在这里用于指华盛顿和北京之间武装冲突或核战争威胁的增加。3 本报告探讨了美国如何管理军事人工智能在与中国的关系中可能造成或更严重的战略风险。报告分为四个部分。第一部分详细介绍了中国如何看待人工智能在民用经济和军队现代化中发挥的作用。它还探讨了北京如何看待这些新兴能力塑造战争的未来特征。4第二部分详细介绍了作者所说的五类途径或因果关系，通过这些途径，军事人工智能的应用可能会破坏华盛顿和北京之间的稳定性并增加战略风险。第三部分评估了沿着这些途径管理战略风险的三类选择。最后，第四节对美国如何S.决策者可以减少和减轻军事人工智能在与中国的战略竞争中可能对和平与稳定构成的风险。 中国总书记习近平在2022年10月23日中国共产党第二十次代表大会会议上在人民大会堂发表讲话。习近平在北京举行的每十年两次的会议上强调了科学技术的重要性。（张林涛/盖蒂图片） 北京的AI计划和AI在中国军事现代化中的作用 B 中国的其他公共和私人行为者认为人工智能对中国的未来至关重要。对于党国来说，人工智能的重要性 超越了对军事或政治权力的任何贡献，尽管这些当然是重要的好处。它将AI视为增强经济增长和社会福利的关键-简而言之，对国家的未来在各个方面都至关重要。 正如中国共产党总书记习近平在2017年10月提交给党的十九大的工作报告中所说，中国最高领导人一再表示致力于使中国成为“科技大国”。5在2022年10月的第二十次党代会上，习近平表示“创新仍将是中国现代化建设的核心”；到2035年，中国将“以强大的自力更生和科学技术实力加入世界上最具创新力的国家行列” ；它应该“坚决赢得关键和核心技术的战斗”。6习近平的这一承诺在4月份的中共中央政治局会议上得到重申 其中他呼吁“一般人工智能的发展”，在西方通常被称为人工智能一般智能（AGI），并被定义为一种能够在不同环境中广泛解决问题的AI形式。7然而，AGI的定义有些模糊，并且经常随着技术的新进步而变化。 正如2017年“新一代人工智能发展规划”（AIDP）所说，“人工智能已成为经济发展的新引擎”。8鉴于数据是人工智能发展的关键投入之一，中国的人工智能目标是创建国家数据管理局作为整体重组的一部分的关键动机 国务院在2023年“两会”会议上公布。9中国领导人认为，世界领先的人工智能能力对于他们的国家继续攀升全球价值链并超越其传统的发展模式是必要的，传统的发展模式已经实现了国内生产总值（GDP）的快速增长，但产生了地理失衡，环境成本和工业产能过剩-实现“高质量”和可持续增长。 中国的规划者着眼于人工智能在特定领域的应用，以解决无数的经济和社会问题。10他们期望 社会控制系统。而叙述 人工智能驱动的，全面的“社会信用体系”描述了北京的野心，而不是当前的技术现实，11自动内容审核的使用已经是中国庞大的互联网审查系统的重要组成部分。12面部和其他生物特征识别，计算机视觉和其他AI技术是针对新疆维吾尔族人的种族灭绝的关键工具。这些技术也越来越多地用于监视和控制其他少数民族和更广泛的人口。13 最后，尽管中共旨在指导和协调整个中国社会的人工智能的发展和使用，但中共认识到它不能独自做到这一点。商业，学术界 ，医学和民间社会的私人行为者将是研究如何使用这些工具来突破其领域界限的主要行为者。 人工智能及相关技术- 机器人等技术可以提高工业生产率，抵消中国劳动年龄人口的减少，同时更好地利用 比他们的前辈受过更好教育的年轻人的人力资本增加。“聪明” 因为它追求多样化 随着人工智能的突破，中国将不得不不断管理促进创新的开放性、规范过度商业行为的必要性以及对中国社会方方面面保持严格政治控制的愿望之间的权衡。 就其本身而言，该党的目标是 通过创造公共物品 投资于基础和应用人工智能研究 ，同时吸引人工智能发展达到自己的目标。14这种方法的机制包括建立一支由大型公司组成的“国家队”，以领导特定领域，公司与各级政府之间的行业联盟以及分散的地方 农业，城市，交通和物流将使持续的城市化和向国内消费的过渡成为中国中长期经济计划的基础。北京领导人还认为，人工智能是通过政府职能数字化改善公共服务提供的长期动力的下一步。人工智能在医学领域的进步有望实现 以更低的成本提供更好的医疗保健结果，并帮助减轻照顾老龄化人口的负担。更有效和动态的资源规划和使用是实现所有这些目标的关键，同时实现中国的气候和环境保护目标。 中国共产党不仅重视人工智能的经济和福利，而且重视人工智能的发展，确保其国内统治并在国际上发挥其力量。在基本层面上，维持中国长达数