AI 出口困境 ： 美国战略的三个竞争愿景

AI出口困境：美国战略的三个竞争愿景 2024年12月 SamWinter-Levy AI出口困境：美国战略的三个竞争愿景 SamWinter-Levy ©2024卡内基国际和平基金会。保留所有权利。 卡内基不就公共政策问题发表机构立场；本文件中的观点系作者个人观点，并不一定反映卡内基及其工作人员或信托人的观点。 未经卡内基国际和平基金会书面许可，不得以任何形式或通过任何形式复制或传输本出版物。请直接向以下地址咨询： ``` `卡``内基国际和平基金会出版社 地址：1779MassachusettsAvenueNW,Washington,DC20036 电话：+12024837600 传真：+12024831840 网址：CarnegieEndowment.org 本出版物可在CarnegieEndowment.org上免费下载。 Contents Introduction1 控制策略3 扩散策略6 杠杆策略9 结论12 关于作者13 卡内基国际和平基金会14 Introduction 美国应该广泛分享其人工智能（AI）技术到什么程度？这个问题可能会很快成为美国外交政策和经济战略中的一个关键问题，但迄今为止它却受到了出乎意料的有限的公众关注。当华盛顿高度集中精力限制中国的AI进步时，另一组新兴经济体——包括像这样的国家——沙特阿拉伯和阿拉伯联合酋长国（阿联酋）— —正越来越定位自己为人工智能领域有影响力的玩家。美国政策制定者才刚刚开始应对这些国家在人工智能方面抱有的机遇与困境。 一方面，全球对美国人工智能技术日益增长的需求——包括先进的芯片、庞大的数据中心以及前沿模型——可以成为在美国所谓的“摇摆州”拉拢选民并巩固美国影响力的一个杠杆。而面对这一趋势，美国科技公司面临着越来越陡峭资本、土地和能源需求，因为他们争相进行一位分析师所拥有的called“人类前所未见的最大基础设施建设”，视与各种外国国家的合作为解决他们许多愿望的答案。然而 ，即使是对表面上友好的国家提供强大的人工智能系统，也伴随着严重的风险，包括知识产权盗窃，误用专制政权,andthe 虹吸美国一些最先进的技术中国军队 并且需要平衡这些利益。在未来几年乃至几十年里，这都将是一项中心任务，美国政策制定者将致力于此。 乔·拜登政府悄悄地对这些困境进行了辩论，并提前发出了一些呼吁-例如，扩大限制向其他国家出口高端AI芯片，包括中东的一些国家，并就此签署相关协议 。重大交易 11 在微软和阿联酋领先的科技公司G42之间。(The海湾国家其他提案，如（这一点尤其引起了讨论，因为它们希望在AI竞赛中扮演重要角色，并带来了相应的资本和能源资源。）但其他提案，如特定国家/地区的上限关于计算能力和出口管制在AI模型上，仍然悬而未决。国家安全顾问杰克·沙利文承诺在美国拜登政府任期最后几个月内发布一项“新的全球人工智能扩散方法”，但在民主党跛脚鸭政府宣布任何措施的影响将受到限制，因为唐纳德·特朗普的新政府将对这些新颖且重要的问题进行重新评估。 为了帮助推进美国的相关讨论，本文提供了一份关键视角和辩论的概览，这些视角和辩论来自一小群深入思考美国人工智能出口问题并可能在特朗普政府政策制定中发挥重要作用的人物——这些人物在过去三个月中接受了作者的多次采访，涵盖了从美国政治光谱两端到阿布扎比、班加罗尔和利雅得等地的私营企业、学术界和政策制定者以及外国政府官员和分析师。文章概述了华盛顿在确定向何处以及如何出口先进的美国人工智能技术时可能采取的三种不同方法。 那些喜欢的人控制策略认为允许潜在变革性的AI技术扩散到少数几个紧密的美国盟友之外所带来的风险超过了扩大美国AI出口带来的好处。这种观点尤其受到国家安全官员和分析师的影响，这些分析师预测在未来几年内AI系统的权力将显著增强。相反，那些倾向于扩散策略进行相反的计算：他们强调了美国AI技术在外国市场迅速扎根所带来的好处。这种观点主要得到了美国商业利 益以及分析师的支持，这些分析师认为强大的AI系统将从长期和更为渐进的时间线中出现。第三种方法，杠杆战略它在中间立场上站稳脚跟：希望通过将美国的人工智能出口作为谈判筹码，以获取地缘政治和技术上的让步。其支持者包括推动国际人工智能安全与安全标准的倡导者，以及寻求增强在美国摇摆 州影响力的传统外交政策参与者。 这些是粗略且经过风格化处理的分类；不会有任何尝试绘制如此广泛的类别是完美的。不时，政策制定者会支持或能够结合其中的各个要素。有些人可能会根据讨论的具体技术输入而选择不同的策略：例如，在支持对芯片进行管控的同时反对对软件进行管控是可能的。但在其他时候，政策制定者将不得不在面对快速且不可预测的技术进步所带来的权衡、风险和机遇时做出不同的回应。本文提供了一个广泛的思想框架，以帮助决策者定位问题、揭示潜在假设，并识别可能的交汇点或持续的不确定性。 一种控制策略 一种控制策略位于可能采取的国际人工智能政策方法谱系的一端：这种策略旨在防止最先进的AI技术扩散给美国一小群盟友之外的任何国家。这样的小集团肯定会包括五眼情报伙伴中的其他四个国家（澳大利亚、加拿大、新西兰和英国）。它也可能涉及在AI价值链中扮演关键角色的重大条约盟友（如日本、荷兰和韩国 ），并可能涵盖其他先进的民主国家。但这种策略将排除与美国利益联系较弱、与美国对手关系更紧密且拥有更多交易性外交政策的国家，例如印度、沙特阿拉伯、土耳其或阿联酋。 实施这一战略的机制包括对人工智能供应链中要素（尤其是图形处理单元GPU、主要计算集群和前沿模型权重）的出口控制和许可要求。其他可能的机制包括对美国人在某些国家支持这些技术发展的活动进行管控。目标是确保美国及其可信赖的合作伙伴能够保有开发和部署最先进的人工智能系统的物理控制权。 在岸核心战略资产 这种方法的基本原理在广泛阅读中得到了最清楚的阐述memo发表于6月，作者为LeopoldAschenbrenner，他曾是OpenAI的研究人员。在他的观点中，人工智能领域的突破可能会导致科学和技术进步的非凡加速，对全球权力平衡产生重大影响——这些突破可能在几年内就会出现。如果人工智能系统有潜力推动经济增长的爆炸式增长，设计新的合成生物武器，然后发展出令人印象深刻的新型网络能力，人工智能可能成为战略竞争的主要工具。换句话说，确保对先进人工智能技术的控制将成为未来几十年最重要的国家安全和经济项目。 以数据中心为例。在诸如 阿联酋或沙特阿拉伯创建严重风险为了美国的国家和经济安全。物理访问会使东道国更容易窃取模型权重、训练数据、算法见解等。（例如，2014-2015年间沙特情报人员）渗透并且窃取了Twitter等公司的敏感信息，而这样的操作在本土进行将更为容易。当地政府甚至可以在官员认为即将取得重大突破时，直接接管数据中心。如果今天听起来还显得牵强，那只是因为当前的人工智能基础设施尚未成为Aschenbrenner等人所预言的那种塑造世界战略格局的重要资产。一旦这种情况发生变化，以往的历史事件——如伊朗和沙特在20世纪50年代对美国和英国石油利益的国有化，以及埃及在1956年对苏伊士运河的接管——将成为相关的历史先例。 此外，先进的AI系统几乎肯定会受到来自如中国这样的美国竞争对手的高级网络攻击，这些竞争对手试图窃取美国的模型。将这些系统及其保护措施保留在美国或其最紧密的安全伙伴国内可能提供显著的防御优势，而海湾国家则对中国的间谍活动更为宽容，并且其情报共享和内部威胁计划远远落后于美国西方盟友。更根本的是，华盛顿面临是否应将主要的技术能力置于与其利益部分不一致的政权之下的问题。“我们真的希望为[下一个]曼哈顿计划建立的基础架构由某些任意的中东独裁政权控制吗？”阿什内纳恩写道。 这一论点很可能吸引一些——但并非全部——即将上任的特朗普政府的部分成员 。唐纳德·特朗普的女儿伊万卡以及他在第一任期内的高级白宫顾问，在此发挥了重要作用。描述阿什本宁的备忘录是“一份优秀的必读文件”。国会中重要的共和党国家安全声音对其给予了高度评价。帮助领导旨在通过禁止美国AI公司发布开源模型，以防止美国AI技术落入中国的“两党立法”表明要将美国AI技术保留在美国手中。主要保留关于微软在阿联酋建立数据中心的决定。并宣布他的选择内政部长and环境保护局管理员特朗普强调了这些角色在帮助美国“在中国（及其他国家）的人工智能军备竞赛中获胜”的重要性。这表明特朗普将优先考虑允许改革和能源政策，以使美国能够在国内而不是海外建立关键的人工智能基础设施 。这也暗示他的团队不仅关注限制中国，还对其他国家也存在担忧。 防止多人AI竞赛 控制策略的另一个论点与所谓的AI安全有关-这是管理AI风险,尤其是灾难性的安全威胁，如恶意自主行为、人工智能驱动的武器扩散或关键基础设施故障。关于如何平衡快速进展的人工智能能力带来的利益与日益强大的人工智能系统可能被滥用或失控的风险，目前存在激烈的辩论。今天，美国公司在这些决策中拥有不成比例的影响，因为美国公司在这方面的算法进步和计算能力（或计算资源 ）占绝大多数的世界供应方面处于领先地位。理论上，美国公司或监管机构因此可以采取主动措施来应对技术日益增强时的人工智能安全问题。例如，美国组织 在全球范围内率先发布了相对详细的自愿的风险缓解框架，以及开创性的监管倡议到达加利福尼亚州州长的办公桌(最终被否决之前)。 但如果美国批准出口主要的人工智能计算集群和高级模型权重，它将对这项技术的发展控制力大大减弱。其他参与者可能会加入先进人工智能系统的竞争，这可能会加剧竞争态势。 动态因素削弱了人工智能的安全与安全努力。美国与中国之间已经展开的双向竞争正在给予双方越来越强烈的动机，以牺牲标准为代价加速发展高度先进但又极具风险的人工智能系统。如果美国允许其他人工智能强国崛起并加入前沿竞争，管理这种“竞相降低标准”的局面将变得更加困难。如果竞争从双方面变成三方面 、四方面或更多参与方，那么所有参与者进行严格测试和研究的空间以及实施合理监管措施的可能性可能会大幅缩小。 当然，AI安全论点是否能说服即将上任的特朗普政府尚不得而知。一方面，许多共和党人认为AI安全是更广泛的进步文化议程的一个分支，旨在利用大型科技公司审查右翼言论。共和党（GOP）2024平台，该政策在特朗普执政期间受到严密控制，并承诺废除拜登的安全导向行政命令，理由是该命令“阻碍了人工智能创新”并“对这一技术的发展强加了激进的左翼观念”。声明中表示，“共和党支持以言论自由和人类繁荣为基础的人工智能发展。” 但是埃隆·马斯克似乎听着当选总统的声音，他表达了对人工智能风险的重大担忧，描述人工智能在选举前被视为“重大生存威胁”，具有10%到20%的可能性“出现严重问题”。与此同时，Project2025的人工智能政策委员会的一名参与者提到这一观点。saidthat特朗普所谓的“影子过渡”应认真对待AGI（人工通用智能 ）及其相关风险。特朗普本人已经 expressed一些同情“那些说[AI]接管人类的人”，他可能会关心民意测验这表明选民也是关注由AI风险引起。因此，在评估特朗普政府的国际政策时，可能还为时过早而忽视AI安全考虑因素或至少是一系列关于AI驱动安全威胁的核心关切。 保留提前期 控制策略依赖于这样一个事实，即美国及其盟友目前 主导AI的关键要素价值链。美国公司设计并拥有世界上多个高端GPU，其前沿计算优势目前是稳定的。中国人产量先进芯片生产水平较低，而由于中国 目前无法为其自身需求生产足够的领先芯片，它很可能不会将其有限的供应用于出口。这意味着，在美国继续对像海湾国家这样的国家实施出口管制的情况下，北京可能不具备技术能力和意愿成为替代供应商。但这可能不会永远持续下去— —这是当前经济环境的一个条件性特征，对未来中国技术能力的预测必须带有广泛的误差范围。美国及其盟友不可能永远在半导体供应链中占据无可挑战的地位 。 尽管如此，对于这种方法的倡导者来说-谁属于长谱系国家安全鹰派人士致力于保存美国在军事