前沿的人工智能治理

执行摘要

随着人工智能技术的扩散，政策制定者面临着如何在不确定性中治理这项技术的挑战。为了应对这一挑战，许多利益相关者提出了各种旨在塑造人工智能治理方法的建议。本报告概述了一种分析方法，帮助政策制定者理解这些建议，并在治理人工智能系统时保留未来的决策灵活性。该方法包括分析各种建议中共同的假设（这些假设是多个建议成功的基础要素），以及各个建议中独特的假设，通过回答三个问题：

1. 哪些风险需要缓解，谁应该主要负责监督前沿人工智能？
2. 谁被委托任务并能够发挥作用？
3. 提出的机制或工具是否能够实现其目标？

我们将这种方法应用于五个以美国为中心的人工智能治理建议，这些建议来自工业界、学术界、民间社会、联邦政府和州政府。这些建议通常旨在治理前沿人工智能系统，这些系统具有尖端的 capabilities，因此对人工智能治理提出了最具挑战性的问题。我们的分析表明，大多数建议都认为人工智能人才和人工智能流程和框架是人工智能治理的重要推动因素。然而，关于最有效的缓解人工智能风险和危害的技术，建议缺乏共识。

我们的分析还为寻求分析任何建议的政策制定者提供了具有普遍适用性的经验教训。我们的案例研究表明，1)政策制定者应利用建议的假设来更精确地理解利益相关者之间的分歧和共同观点，以及2)政策制定者可以通过解决跨建议的共同假设来在不确定和快速变化的环境中采取行动。

报告范围

本报告旨在分析人工智能治理建议。我们通过四个指导问题将人工智能治理建议分解为其关键组成部分：为什么治理、治理什么、谁来治理以及如何治理。在案例研究部分，我们将指导问题应用于每个建议。

案例研究

本报告分析了五个人工智能治理建议：

• 工业界：OpenAI 的前沿风险方法
• 民间社会：AI Now Institute 的零信任人工智能治理
• 学术界：前沿人工智能监管：管理对公共安全的新兴风险
• 州政府：前沿人工智能模型的安全和创新法案
• 联邦政府：减轻人工智能支持极端风险的框架

分析

我们通过回答三个问题来分析每个建议的假设：

1. 哪些风险需要缓解，谁应该主要负责监督前沿人工智能？
2. 谁被委托任务并能够发挥作用？
3. 提出的机制或工具是否能够实现其目标？

我们的分析揭示了以下发现：

• 大多数建议都认为人工智能人才和人工智能流程和框架是人工智能治理的重要推动因素。
• 关于最有效的缓解人工智能风险和危害的技术，建议缺乏共识。
• 政策制定者应利用建议的假设来更精确地理解利益相关者之间的分歧和共同观点。
• 政策制定者可以通过解决跨建议的共同假设来在不确定和快速变化的环境中采取行动。

结论

本报告通过分析五个人工智能治理建议，提出了一种识别政策建议中假设的方法。我们确定了两个关键经验教训：1)政策制定者应利用建议的假设来更精确地理解利益相关者之间的分歧和共同观点，以及2)政策制定者可以通过解决跨建议的共同假设来在不确定和快速变化的环境中采取行动。