绘制人工智能的地缘政治和欧洲治理图

2024年3月 绘制人工智能的地缘政治和欧洲治理图 ： 绘制人工智能的地缘政治和欧洲治理图 ： ©2024卡内基国际和平基金会。保留所有权利。 卡内基在公共政策问题上不采取机构立场;本文所代表的观点是作者的观点，不一定反映卡内基，其工作人员或受托人的观点。 未经卡内基欧洲或卡内基国际和平基金会的书面许可，不得以任何形式或任何方式复制或传播本出版物的任何部分。请直接查询： 卡内基国际和平基金会出版物部 1779MassachusettsAvenueNWWashington,D.C.20036 P:+12024837600 F:+12024831840 CarnegieEndowment.org 卡内基欧洲街，15 岁 1000布鲁塞尔,比利时P:+3227355650 CarnegieEurope.eu 本出版物可在CarnegieEurope.eu免费下载。 Contents 脚本未来：探索的叙述 AI电源和中断5 掌舵的欧盟？导航AI 地缘政治与治理9 创新还是监管？这就是误导性问题16 Summary 人工智能(AI)是一种变革力量，正在塑造全球权力动态、安全考虑和经济范式。借助OpeAI的ChatGPT等通用AI系统，AI革命已经从未来的前景转变为当今的现实，吸引了大国和科技巨头的极大关注。然而，除了它的承诺，人工智能也引起了人们的怀疑。 面向未来的治理框架，更广泛的道德考虑以及该技术在民用和军事领域的双重用途影响。 在这种背景下，欧盟(EU)以多方面的方式管理人工智能，同时应对地缘政治、经济和监管问题。需要对欧盟的人工智能技术政治有一个细微差别的理解，以及欧洲在管理这一领域、促进人工智能创新和确保可信度方面的努力。在这方面，欧盟的人工智能法案旨在根据风险水平规范人工智能系统的使用，反映了对以人为中心和负责任的人工智能发展的承诺。此外，欧盟对本土AI创新的追求强调了AI在增强欧洲技术主权和减少战略依赖方面的至关重要性。 一方面，欧盟将通过《人工智能法案》建立全球标准视为关键目标，从而引发了对监管竞赛的讨论。此类辩论不仅指出了人工智能监管的重要性，还指出了欧盟在全球范围内发挥巨大影响力的潜力。然而，在全球人工智能霸权竞赛中，欧洲面临挑战 在为人工智能监管设定黄金标准和保持技术优势方面。虽然人工智能法案的具体规定可能会对全球市场产生重大影响，但仅靠欧洲的努力并不能为人工智能建立全面的国际标准。 11 另一方面，尽管欧盟通过各种方案分配了大量投资，但来自其他主要经济体，特别是美国和中国的竞争仍然很激烈。作为回应，欧盟将需要将其关于人工智能技术主权的言论与大量资金相匹配。就目前情况而言，鉴于欧洲缺乏大型高科技公司和投资，几乎没有证据表明欧盟能够在人工智能领域追求技术主权和全球领导地位。 AI力量和AI破坏的叙述进一步使欧盟的技术政治格局复杂化。两组叙述中的关键问题是他们到底为谁服务，以及他们塑造的技术政治现实。这些叙述的范围从将AI视为国家安全问题，到将技术视为具有破坏性的力量，有可能引发民用和军事领域的范式转变。这种叙述在确定未来技术进步和全球排序的政策和治理议程方面发挥着核心作用。他们经常被强大的参与者放大，他们构建了对人工智能变革潜力的看法，从乌托邦式的经济增长愿景到对具有灾难性影响的生存风险的反乌托邦式恐惧。 解决这些流行的叙述对于建立现实的治理期望和在欧洲促进平衡的公共话语至关重要。揭穿夸大的主张并关注切实的风险和挑战可以指导欧盟的政策行动，创新努力以及《人工智能法》的实施与更广泛的社会关切和价值观保持一致。 2|绘制人工智能的地缘政治和欧洲治理图 Introduction 人工智能(AI)等新兴和颠覆性技术(EDT)的快速发展预示着新形式的权力、数字颠覆和对全球舞台的经济影响。随着AI系统使用的增加，尤其是像ChatGPT这样的通用AI，人们普遍认为AI革命正在迅速展开。AI是参与技术开发的公司的新圣杯-主要是该领域的领导者，OpeAI和Google子公司DeepMid-尤其是考虑到其巨大的利润和成为第一家开发人类级机器智能的公司所带来的重大认可。人工智能的快速加速与大国政治的复苏、多边全球秩序危机的加深以及企业科技巨头在国际关系中的作用日益重要同时发生。所谓的武器化相互依存也在关键经济节点、技术供应链和全球信息流中扩散。1 与此同时，越来越多的人怀疑政府和欧盟(EU)等国际组织是否有能力授权公民获得感知的机会 ，同时保护人们免受这项技术的危险。在这种背景下，关于权力和破坏的普遍叙述正在塑造技术进步和全球重新排序的轨迹。在欧盟治理和创新的背景下，无论这些叙述是真的还是假的，都必须揭穿这些叙述，因为它们通常具有相当大的影响力以及塑造观念，政策决定和社会期望 。 例如，根据卡内基的MattO'Shaughnessy的说法，当前的“对AI超级智能的炒作可能会导致政策误入歧途”，将注意力从更紧迫的风险和 3 挑战，转移资源，并因此根据强大行为者的利益制定政策行动。2公开这些方法有助于建立现实的治理预期，并有助于就人工智能在集体未来中的作用进行更平衡的讨论。 欧盟对技术主权的言论也是如此。尽管欧盟推动技术主权和全球人工智能领导的愿望，但欧洲的雄心和成就之间存在明显的差距。尽管存在贸易保护主义倾向和技术优势，但欧盟面临挑战，因为与美国和中国等大国相比，其数字产业相对有限，投资不多。 这就是为什么需要对管理AI系统的国际和欧洲技术政治有更细致的理解。在这种情况下，“技术政治”一词是指人工智能与地缘政治结构、权力动态、叙事、规范和经济影响之间复杂的相互作用，这些影响塑造了人工智能技术。该分析放大了欧盟在AI地缘政治中的地位，当前重叠的全球治理和监管框架的扩散，围绕AI的叙事网络，欧盟的资金和创新计划以及更广泛的道德考虑。我们的目标是研究欧盟人工智能、监管和地缘政治之间的相互作用，同时强调欧洲人工智能研究、开发和使用的社会政治和规范意义。 在人工智能治理领域，欧盟面临着巨大的挑战，国家和企业之间的竞争日益激烈，同时全球范围内出现了复杂的监管制度网络。欧盟致力于培养负责任的人工智能实践是值得称赞的。然而，欧盟在人工智能问题上形成统一的外交政策立场，与主要盟友建立战略伙伴关系，在成员国之间有效实施欧盟的人工智能法案，以及驾驭无数国际治理举措的能力，将是塑造人工智能全球发展轨迹的关键 。随着欧洲寻求宣称自己是人工智能治理的主导力量，这些战略要务将成为欧盟技术力量、全球影响力和效率的关键指标，以应对日益竞争的人工智能监管和创新格局。 AI的技术政治通过对技术的力量和破坏的叙述变得显而易见。这些叙述不仅是强大的行为者使用的修辞工具，而且是世界政治以及更广泛的技术政治和社会格局的组成部分。这两种类型的叙事的关键问题是他们所服务的演员以及他们塑造的技术-非政治现实。这种叙事的主导地位使人工智能成为权力和颠覆的象征，极大地影响了决策过程、政策议程、投资优先事项和公众看法。虽然并非完全不正确，但这些叙述在描述AI的潜力时可能会产生误导，并且在定义可能的AI未来范围时过于严格。这些叙述植根于全球领导、军事实力和经济主导地位的愿望，往往忽视了伦理、规范、价值观、规则、治理和社会影响等细微差别的考虑。随着人工智能技术的不断发展，批判性地评估这些叙述变得势在必行。 这种分析认为人工智能系统不是中立的，而是一种受技术创造者、资助者、部署者和用户的话语、愿景、价值观、社会规范、经济和安全利益以及权力结构影响的社会结构。人工智能技术的概念承认，人工智能的创造、利益和控制并不是均匀分布的。某些地区和行为者，如政府、机构、大公司和专家社区，在塑造人工智能的发展和治理轨迹方面发挥着重大影响。 从本质上讲，人工智能技术政治的概念认识到，技术不仅是一种技术现象，而且是一种社会技术现象：关于设计、部署和治理前景的权力动态的决策，对地缘政治竞争、治理结构、社会关系以及社会利益和风险的分配具有深远的影响。因此，为了更好地理解欧盟的立场，至关重要的是解开围绕人工智能地缘政治和变革潜力的言论，以及这种潜力影响全球和欧洲权力结构和经济范式的方式。 未来脚本：探索AI力量和中断的叙述 关于AI的力量和颠覆性的叙述有一个共同的线索：技术的变革性影响似乎是不可避免的。3首先 ，这些叙述认为，想象一个未来是不可避免的，在这个未来中，人工智能的力量不会转化为技术军备竞赛，全球领导力的竞争以及国家和企业参与者之间争取经济影响力的斗争。其次，有人认为，人工智能引起的破坏是无处不在的 不可避免的转变，这可能会给超越人类控制的人工智能模型提供代理。然而，两种类型的叙事的关键问题是他们服务的对象以及他们塑造的技术政治现实和公众观念。 AI力量的叙述 权力的叙述会影响有关哪些AI应用程序将获得资金，监管指南或社会接受的关键决策。他们还期望人工智能在新的军备竞赛中增强地缘政治力量，以利用人工智能作为国家和欧洲安全的关键战略推动者。人工智能是治国之道、权力投射和经济实力的重要工具，将不可逆转地影响政体的兴衰，这一说法具有重要的社会政治意义。4 在这方面，欧盟也不例外。欧盟通过其欧洲人工智能战略，旨在加强其技术主权，并成为世界一流的人工智能枢纽， 在这一领域建立战略领导力，并确保人工智能以人为中心，值得信赖。5这些雄心勃勃的目标已转化为欧洲在这一领域培养卓越和信任的具体方法，从促进整个集团的创新、发展和吸收人工智能，到为可信的人工智能提出一个统一的法律框架，正如《人工智能法》所规定的那样。6 然而，在围绕欧盟技术主权的讨论中，以及旨在将欧盟定位为人工智能领导者的举措激增，更仔细的研究揭示了 修辞与现实之间的巨大差距。尽管欧盟通过各种策略，包括保护主义措施和技术优势的愿望，共同努力维护其人工智能主权，但通往真正领导力的道路充满了挑战。 与美国和中国等行业巨头相比，数字技术产业有限，投资相对较低，欧盟在技术主权和人工智能领导方面的雄心面临相当大的障碍。 经过漫长的谈判，欧洲议会和欧盟理事会于2023年12月达成协议的《人工智能法案》也面临障碍。该法案是世界上首次尝试立法对正在使用的人工智能系统进行全面、横向和基于风险的监管 。通过对值得信赖的AI的叙述，欧盟正在定义其对AI颠覆未来的愿景，同时旨在巩固其作为AI治理领域规范力量的作用。7然而，欧盟在寻求将欧盟确立为人工智能监管基准并保持其技术主导地位的过程中，将需要应对几个挑战。 虽然该法案的某些方面可能会对全球市场产生相当大的影响，但仅靠欧洲的监管努力不足以为人工智能制定全面的全球标准。 欧盟建立技术主权的努力，特别是在人工智能系统领域，与欧盟追求国防战略自主权有着内在的联系。例如，当欧盟寻求增强其安全和防御能力时，欧洲国防基金支持采取行动，帮助开发基于“非传统国防最先进”或人工智能系统等新兴技术的概念的EDT。8Such 技术在民用和军事领域同样具有破坏性；在后者中，它们有助于创新防御系统的发展。 实际上，乌克兰正在进行的战争已成为科技巨头的AI战争实验室。包括Palantir，Microsoft，Amazon，Google，ClearviewAI和其他公司在内的公司已与乌克兰武装部队合作，为乌克兰抵抗俄罗斯的侵略提供先进技术和支持。9这种合作使乌克兰成为测试包括AI，无人机和面部识别软件在内的军事技术的实验室。国防军与科技巨头之间的这种紧密合作不仅旨在协助眼前的冲突，而且旨在发展乌克兰的技术部门以促进长期经济增长。 然而，越来越多的军事人工智能技术试验凸显了围绕战时使用这些技术的复杂性和伦理问题，以及这种合作的潜在全球影响。一个直接的外卖是 冲突的战场是在战争领域展开人工智能力量的熔炉。在这种背景下，科技公司作为独立的参与者出现，他们拥有超大型的权力，而军事决策很可能被移交给算法。 在全球人工智能霸权竞赛中，包括欧盟在内的所有主要经济体都在积极努力确保其技术实力和领先地位。10美国通过在该领域拥有最高的私人投资总额来领导世界，从而确立了自己的