人智能、地边缘政治和新分析框的固执性 ？

会议报告 人工智能、地缘政治和新分析框架的必要性？ RUSI颠覆性技术研讨会 报告 PiaHüsch 会议报告 193年独立思考国防和安全问题 皇家联合服务研究所（RUSI）是世界上最古老的，也是英国领先的国防和安全智囊团。其使命是为更安全，更稳定的世界提供信息，影响和加强公众辩论。RUSI是一家以研究为主导的研究所，为应对当今复杂的挑战提供独立，实用和创新的分析。 自1831年成立以来，RUSI一直依靠其成员来支持其活动。加上来自研究，出版物和会议的收入，RUSI维持了193年的政治独立。 本出版物中表达的观点是作者的观点，并不反映RUSI或任何其他机构的观点。由皇家联合服务研究所于2024年发表。 ©RUSI,2024 ThisworkislicensedunderaCreativeCommonsAttribution-Non-Commercial-No-Derivatives4.0InternationalLicence.Formoreinformation,see<http://creativeecommons.org/licenses/by-nc-nd/4.0/>. RUSI会议报告，2024年3月。 皇家联合服务学院 国防与安全研究 WhitehallLondonSW1A2ET英 国 +44(0)2077472600 人工智能、地缘政治和新分析框架的必要性？ Overview 政策制定者正在努力了解人工智能技术的使用、相关风险和好处。这些技术正在快速发展 ，并且通常涉及高度的技术细节。由于围绕人工智能的持续炒作，这种复杂性使得非专业人士很难理解人工智能的影响，包括在地缘政治背景下。然而，应对颠覆性技术发展的需求并不新鲜：国际关系奖学金通常提供有用的工具，框架或概念来了解这种变化如何影响州际关系。政策制定者能否转向这种奖学金，以提供有效的分析工具来更好地理解人工智能对地缘政治的影响？这份研讨会报告总结了10位学者的讨论，讨论人工智能对地缘政治有什么影响，是否需要一个新的分析框架来捕捉人工智能对国际关系的影响，以及我们可以从其他技术中学到什么以及它们各自对地缘政治发展的影响。 Introduction 2023年11月，RUSI举办了一次仅限邀请的研讨会，讨论是否真的需要国际关系奖学金中的新分析框架来掌握人工智能对地缘政治的影响。RUSI特意召集了少数从事人工智能和其他技术的领先国际关系学者，讨论人工智能对国际关系的影响，从以前的技术发明中可以学到什么关于技术和国际关系的相互作用，以及是否需要一个新的框架或概念来分析人工智能对地缘政治的影响。 研讨会包括10名学者，由伦敦大学城市校长AnthonyFinkelstein和RUSI杰出研究员主持。在 除了研讨会本身的调查结果外，邀请的与会者还被要求在研讨会之前填写一份调查(调查问题见附件)。在参加讲习班的10名参与者中，有6人提供了调查答复。被邀请但没有出席的人又提供了两个答复。本研讨会报告依赖于调查和研讨会的贡献。研讨会和调查中表达的所有观点都不可归因。 上下文 人工智能技术，它们的风险和机遇，以及它们的监管和道德挑战，是英国政策界备受争议的话题。自英国国家人工智能战略推出以来，情况尤其如此，该战略提出了使英国成为“人工智能超级大国”的目标，1在2023年11月举行的英国人工智能安全峰会的背景下 。2英国的政策制定者越来越多地转向人工智能的好处、影响和风险问题，包括它与外交事务和国际关系的关系。3 然而，决策者和非技术人员往往很难理解人工智能对国际关系等熟悉领域的新影响。这部分是由于人工智能技术如何工作以及如何发展的知识差距。这种差距存在于技术专家与社会科学和政策界的专家之间。 当前可用的工具和方法是否足以构成和解释人工智能对国际关系的影响？还是需要新的工具来捕捉人工智能对州际关系的影响？只有在有足够的方法来理解和传达这种影响的情况下，非技术人员和决策者才能适当地掌握和传达人工智能技术对国际关系的影响。这些可以被认为与现有技术的那些决定性地不同或相似。当然，达成这样的理解是政策制定者为人工智能技术设计有效的政策干预措施的必要先决条件，这将使英国等国家能够利用人工智能的优势并减轻任何风险，从而从人工智能中获得战略优势。 1.英国国家人工智能战略（伦敦：人工智能办公室，2021年）。 2.HM政府，“人工智能安全峰会2023”，<https://www.gov.uk/government/topic-events/ai-safet-summit-2023>，2024年1月19日访问。 3.下议院，外交事务委员会，“口头证据：人工智能和外交”，HC1927年，2023年10月24日，<https://committees.parliaments.uk/event/19523/正式会议-口头-证据-会议2024/>，1月19日访问。 学术奖学金可以提供适当和广泛应用的框架和概念，以了解技术对国际关系的影响-例如，威慑理论，因为它适用于核武器及其在冷战期间对国际关系的影响。即使这种理论准确地捕捉技术对国际关系的影响的能力是有争议的，它仍然可以作为讨论的起点。 人工智能技术在社会科学和国际关系中并不是一个全新的话题。也就是说，最近的趋势无疑导致了对AI的更多学术关注。传统上，许多学术讨论都集中在所谓的“杀手机器人”的伦理含义和致命自主武器系统（LAWS）对人工智能的使用上，而社会科学学者现在正在将研究扩展到人工智能治理和人工智能等领域。 RUSI的研讨会包括国际关系学者，研究人工智能或空间或核技术等其他技术对国际关系的影响。邀请与会者讨论三个主题领域： 1.人工智能对地缘政治的影响(第一部分)。 2.从国际关系理论和学术解释以前的技术发明的方式可以学到什么（第二部分）。 3.是否需要一个新的框架来概念化人工智能对国际关系的影响（第三部分）。 第一部分：人工智能对地缘政治和国际关系的影响 人们普遍认为，人工智能对国际关系以及国际关系奖学金具有明显和多方面的影响-尤其是因为各州正在解决人工智能治理和风险管理问题。由于人工智能可能对州际权力动态产生影响，因此也感受到了影响。 人工智能如何影响地缘政治动态的例子包括： •军事领域的应用，包括战略稳定，战争的法律和道德以及公众对战争的看法。 •数字威权主义的危险增加。 •从事外交工作，如领事工作的效率。 •对现有价值观和考虑因素的规范性挑战。 •领导人工智能开发、研究和实施的竞赛，包括通过数据收集。 •人们认为需要对人工智能技术进行国际治理。 缩小什么和什么时候构成“影响” 与会者反复辩论适用于AI对地缘政治影响问题的时间表。鉴于AI技术的快速发展，当代景观与潜在的未来情景有所不同。然而，对人工智能技术可能发展的预期和能力的评估在很大程度上取决于所采取的方法：技术乐观主义者或世界末日情景。设想的时间表也是相关的。一位与会者指出，“短期、中期和长期的实际影响有些不清楚”。即使是什么时间框架构成“未来”或“长期”的问题也具有挑战性。 时间线的考虑还涉及到是否要关注长期的、潜在存在的风险，这些风险在很大程度上依赖于猜测，还是要关注人工智能的当代影响和潜在危害。一位学者指出，这种讨论现在已经高度政治化，与中美竞争和其他更广泛趋势的叙述有关。然而，他们认为，长期和短期影响不能轻易瓦解，而是这些问题与政治考虑密切相关。 其他参与者从区分长期和短期影响的叙述中得出的政治含义。一位学者认为，这种区别并不矛盾。然而，至关重要的是弥合不同社区之间的差距，每个社区都侧重于不同类型的风险(例如，国家安全界和军事界)。 特别是在讨论人工智能技术的长期和存在风险时，学者们强调需要考虑基本假设的信息来自哪里。谁以什么样的意图传播什么信息？他们试图出售什么技术愿景？一位参与者发现，这种政治化的增加使他们的工作更加困难。另一位学者还指出，许多科技公司之间缺乏多样性。这些公司中的许多公司拥有大量的信息和知识。他们塑造了关于人工智能影响的话语，特别是在讨论潜在的长期和存在的风险时。他们可能会单方面这样做。另一位与会者补充说，科技公司甚至经常确定什么被标记为人工智能，从而拥有额外的权力。 所有这些观点都来自不同的视角，所应用的时间框架以及任何假设背后的信息，这些都决定了人们对人工智能对地缘政治影响的理解。 国际关系奖学金对AI的态度 讨论确定了人工智能对地缘政治影响的几个领域，这些领域在国际关系奖学金中得到了不同程度的解决。例如，一位与会者的介绍性发言认为，国际关系学者主要通过关注四个研究领域来解决人工智能的影响。首先，人工智能对力量平衡的影响主要在战争研究或战略研究等领域。其次，人工智能治理的问题由一群更多样化的学者进行分析，他们共同认为需要某种形式的全球人工智能治理。第三，同一位学者进一步指出，道德问题通常主要在军事背景下进行研究，但应更广泛地考虑。最后，虚假信息和社交媒体在国际关系奖学金中被广泛讨论，特别是考虑到深度假货的影响，但这方面的研究往往没有定论。 关于人工智能对地缘政治影响的讨论强调了不同框架的含义，无论是对所应用的时间框架 、讨论人工智能对国际关系影响的社区和政治环境，还是此类评估首先基于的信息来源。在研讨会的所有阶段都提出了这些挑战，特别是时限问题。 第二部分：学习其他技术 人工智能技术绝不是影响国际关系的第一个技术发明。从核到太空，从军事发明到海上技术，技术影响着州际关系的许多领域。因此，研讨会参与者还讨论了人工智能技术及其对地缘政治的影响与其他技术有多相似，或者它们是否构成了独特的、前所未有的挑战。 AI与以前的技术发明有何不同？ 参与者对AI在多大程度上是“游戏改变者”的评估有所不同。同样，不同的时间框架适用于这个问题。一方面，一些人认为，至少在当前背景下，人工智能主要放大了现有的挑战或权力动态，而没有从根本上挑战州际关系。一些与会者将人工智能对国际关系的影响与其他技术（例如，量子传感或信息通信基础设施[ICT]和网络技术）联系起来，指出可能的相似性和相互依存性。一位与会者还认为，“人工智能与早期技术发明的共同点比现有文献中经常暗示的要多得多”，至少在目前的形式上是这样。从理论上讲，如果人工智能出现，这可能会改变。 另一方面，一些参与者发现AI的影响已经具有开创性。他们强调了它取代人为因素的能力 -与其他技术不同-它是一种具有“一定程度的代理”的决策技术。人工智能不仅能够取代运动技能——就像以前的技术一样——而且“主要是认知技能”也被认为是决定性的差异。因此，人工智能有能力改变决策质量，对国际社会和关系的性质产生影响。 据一位讨论者说，更抽象的是，由于国际关系作为一门学科关注的是国家间关系的研究，而不是人类，人工智能从根本上挑战了这一假设。这是对国际关系作为一门学科的挑战。同时，它还可以增加论述：计算机科学家专注于个人智力，而国际关系学者则专注于集体社会智力，因为该学科是对群体而不是个人的研究。因此，该领域的奖学金可以为经常以技术为主导的关于如何理解人工智能对国际关系的影响的讨论做出有意义的贡献。 从其他技术中吸取了哪些经验教训及其对国际关系的影响？ 关于从其他学科中吸取的教训，包括如何应对围绕新技术发明的日益炒作，一位与会者说，在空间技术领域，围绕“未来主义者”和那些更加关注当代发展的人形成了营地。虽然未来学家主要关注更遥远未来的潜在技术发明，可能是由工程师开发的，而没有指导政策和战略。 也许更注重实用主义，专注于实际部署的技术。参与者指出，从太空环境中吸取的教训是“远离闪亮的东西”，而是专注于进行大规模投资和推动大规模采用的地方。在人工智能背景下，类似的注意力转移将有助于摆脱围绕人工智能的当代炒作，并引导非技术人员浏览技术格局并看到更大的图景。 与核技术的发展相比，还吸取了有趣的教训。一位与会者指出，人工智能发展的所有权 -与核武器不同-在于技术公司而不是国家。对他们来说，这挑战了通常作