人工智能实地合作：全球范围的人工智能研发（英）

全球人工智能合作 在地面上 人工智能的研究和发展一个 全球范围内 卡梅隆·克里|约书亚·梅尔策|安德里亚·伦达 论坛在人工智能方面的合作 报告 10月2022 介绍 人工智能合作论坛（FCAI）进行了调查国际合作促进发展的机会和障碍 人工智能(AI)负责。1汇聚了来自七的官员 政府（澳大利亚、加拿大、欧盟、日本、新加坡、美国）王国和美国与来自工业界、学术界和民间社会的专家一起探索国家人工智能政策的异同，国际途径 合作、人工智能研发（R&D）生态系统和人工智能标准 发展等问题。继2020年和2021年的一系列圆桌会议之后， 我们在2021年10月发布了一份进展报告，阐明了为什么国际在人工智能方面尤其需要合作，确定了此类领域的重大挑战合作，并提出了国际合作可以深化的四个关键领域： 监管调整、标准制定、贸易协定和联合研发。2的报告就如何在这些领域取得进展提出了15项建议。 对于联合研发，进展报告的建议R15呼吁开发 “国际大规模人工智能研发的共同标准和治理安排项目”,人类基因组计划(HGP)3和欧洲组织 (欧洲核子研究中心4作为所需规模和雄心的例子。报告内容这个建议总结如下: “共同研究开发应用于大规模的全球问题，例如气候变化或疾病防治可以有两个有价值的 效果：可以为解决全球紧迫问题带来额外资源挑战，合作有助于在解决问题中找到共同点 人工智能方法的差异。FCAI将寻求孵化具体的路线图供FCAI参与者以及其他政府采用的此类研发，以及国际组织。将研发合作作为一种工作机制 通过影响人工智能政策国际合作的事项意味着建议应该在短期内上演。”5 FCAI于2022年2月10日召开了一次圆桌会议，探讨了以下具体用例：可能是联合国际研发的候选人，并告知 根据以下概述的标准选择和设计此类项目。潜在领域考虑的是气候变化、公共卫生、隐私增强技术 共享数据，并改进对经济增长和绩效的跟踪（经济测量）。本工作文件提炼了讨论和我们的分析，并 研究。我们建议FCAI政府，利益相关者和其他志同道合的人实体优先考虑合作研发工作：（1）部署人工智能作为气候工具变更监控和管理以及（2）加速开发和采用 隐私增强技术(宠物)。 这些截然不同的学科领域反映了标准的复杂相互作用 在我们的讨论中进行了探讨，似乎提供了最有希望的进展途径用于人工智能研发的国际合作。这两个领域都成为明显的最爱2月10日FCAI对话的参与者之间的讨论和投票 以下原因。一方面，气候变化是紧迫的全球挑战 认识到需要采取集体行动，人工智能提供了一种工具——建立在现有的努力、数据源和机器学习技术可以增强地球 观测、能源管理和其他对气候环境很重要的领域挑战。另一方面，隐私增强技术（PET）正在萌芽技术领域，集体资源可以加速发展，助力 克服由于对隐私、安全和道德的担忧而导致的数据访问障碍，如以及专有利益和经济保护主义。这些主题一起 在应用现有人工智能解决紧迫的全球问题和 以促进负责任地使用这种强大功能的方式扩展人工智能的前沿技术的结合。 标准的选择项目 为了确定全球研发计划的潜在主题，我们2021年10月的报告提出了五个标准：全球重要性、全球规模、公共利益性质 项目的主题和目标，其深度协作性质及其影响的必要性是可衡量和可评估的。FCAI参与者的反馈意见很大 验证了这些标准，但证明它们具有不同的方面、协同作用和重叠增加了选择的复杂性。此外，与会者之间的讨论 澄清了这些建议标准之间的交叉点和对比，这些标准提供了更清晰的镜头，以检查国际研发合作领域的不同选择。 我们建议 澳大利亚汽车工业政府会,议所, 利益相关者, 其他志同道合的实体优先 合作研发 努力 部署人工智能作为一个工具 气候变化监测和 管理和 加速发展和 采用的隐私 加强技术。 1.全球意义暗示这样的项目应该针对重要的 需要跨国解决方案的全球性问题。共同的重要性 问题应该让所有参与者有一个共同的利益，如果成功，可以为全球福祉做出贡献。从与FCAI的讨论中得出 参与者，全球意义有几个不同的方面，包括 对人类或环境的影响（“人类、地球和繁荣”）。另一个密切相关的维度是紧迫性，指的是机会 不采取行动的代价。从后一个角度来看，气候变化与全球卫生是显而易见的优先事项。然而，在较窄的平面上，它是重要的是要考虑诸如对人工智能创新的影响等维度， 项目对国际合作的影响及其对特定领域的影响研究。最终，选择取决于平衡优先级。 2.全球范围内标准表示项目的范围和雄心 需要资源——资金、数据访问、计算能力、知识、人才、以及支持这些目标的财政资源—规模足够大，以至于主要政府和机构的联合支持增加了重要价值。 这种资源需求在很大程度上与 针对全球问题。尽管如此，这个量级并不直接相关。项目复杂性：气候、健康和经济测量都涉及 大规模复杂系统，但需要解决数据和计算方法目前的气候比全球健康或 计量经济学。相比之下，PET涉及一系列更加离散的问题。但计算高度复杂。同样，范围和雄心必须平衡 与可行性。 3.项目的公益性质意味着,如果成功,输出的 该项目将使整个国际社会受益。该项目及其结果应提供给所有参与者，并用于改善获取 欠发达国家的数据、人才和计算能力。一个公众商品应提供广泛的利益，并广泛可用、包容和非竞争。因此，该标准要求评估谁受益，并且 私人手中的重要研发和数据源对私人的评估市场，如何激励私营部门参与。所有学科领域讨论具有重要的公共利益方面;有些功能显著私人手中所需的数据量（特别是来自健康和支付部门，尽管程度因国家而异）。 4.合作项目的性质很可能意味着这个项目 需要一种多学科的方法来解决监管、道德、风险和在具体的背景下提出技术问题，参与者在其中 有取得成果的动力。这将相当于大规模的、共享的、人工智能方法、治理和监管的国际沙盒或试验台 模型。我们在2020-2022年的FCAI系列对话让我们观察到了抽象监管和道德问题在以下背景下得到最有效的解决： 具体的用例，以及寻求具体解决方案的共同承诺将提供解决分歧的激励措施。因此，评估此标准意味着考虑合作的强烈激励：全球有多少 项目的影响或公益性质激励参与者合作; 这种动机在哪些方面可能因不可避免的政策差异而减少，文化,或资源? 5.最后,必须应评税的影响。任何项目需要被监控 与其规模、公众知名度和实验性质相称的审计。参与者将需要评估实现已确定的项目目标和 在解决道德、风险、监管问题和其他更广泛的目标方面的影响。应广泛分享这些项目的经验教训。正如FCAI所指出的 与会者，这是一个特别交叉的标准。在这里，可行性进入考虑，以及对人工智能如何贡献价值的评估。我们 进展报告暗示了科学计划（如 阿波罗计划或人类基因组计划;6这些都是间接的好处具有非常明确目标的项目-登月并绘制整个地图 分别是人类基因组。不应对针对地区进行攻击 “技术解决方案主义”，假设因为一个主题是大而复杂的， 人工智能必然能够而且将会找到解决方案。相反，在大多数领域，这将至多是多管齐下战略背景下的工具。潜在影响 人工智能在某些主题领域更加明确，而在其他主题领域则更具投机性。具有更成熟的数据集和数据访问途径的受试者，以及 机器学习的部署提供了更大的可定义影响的可能性。 为合作研发项目选择最值得的领域 因此，涉及重要的因素平衡，例如在寻求之间成熟新兴技术与利用现成的技术 为了直接的公共利益。这些权衡是由技术问题造成的。不同的主题领域将呈现不同的问题，例如哪些数据和需要计算能力、可用内容以及适用的数据治理 考虑。例如,美国国家航空航天局(NASA)7欧洲航天局(ESA),8和气象机构9张扬庞大数据库的观察,而 共享健康数据受到制度和隐私限制。同样地 不同的学科需要不同的AI方法，有些需要更多或更多 颠覆性创新，取得成果。正如我们在进度报告中所讨论的，数据格式和元数据的差异可能会给共享带来障碍 数据集，即使这些数据集可用。应该考虑什么 数据和经过验证的人工智能技术的可用性？应该优先考虑什么扩大人工智能的边界与对有针对性的全球问题的影响？ 6.治理是我们2021年10月未讨论的潜在附加标准报告。有效的治理对于大规模的成功是必要的合作项目。联合研发产品在多大程度上是公开的 除其他因素外，善意取决于治理规则;手术也是如此任何类型的国际监管沙盒和对资源的呼吁 支持一个项目。进展报告指出了欧洲核子研究中心，国际空间台站（ISS）和HGP作为潜在模型。下面的附录提供了一个 不同治理结构、融资模式的一般摘要，以及这些实体的成果，包括政府机构 监督研究贡献者结构（CERN）的代表，到少数政府机构（ISS），研究机构的集合 由政府补助（HGP）支持。这些模型提供了起点考虑治理。这个变化范围以及常识 然而，这表明治理可能取决于 研发以及所涉及的利益相关者和资金来源。因此，任何对治理的广泛讨论应遵循对主题的讨论 研发领域。此外，治理可能受到其他主题的影响 确定进行更深入的FCAI讨论，特别是有关监管一致性的主题，包括监管沙盒的协调（建议R7）。对于这些 原因，我们没有在2022年2月的圆桌会议或本文。来自斯坦福以人为本研究所的一群学者 人工智能（HAI）有一个提案，与我们的提案产生共鸣 一个国际人工智能研究机构，但在开始时采取了不同的策略通过建议美国主动建立的结构 这样一个类似于欧洲核子研究中心的研究院。10 在这种对选择标准的细化理解的背景下，二月2022年圆桌会议转向潜在国际研发合作的特定领域下文讨论以及所涉及的机遇和挑战。 评估领域的研发协作 在本节中，我们首先简要介绍四个拟议的大规模区域合作研发项目：气候变化、公共卫生、隐私保护 技术和经济衡量，重点关注与人工智能相关的发展，以及实地政策和现有发展国际合作的努力。然后我们 通过我们的分析和讨论来比较这些主题 与FCAI参与者。最后，我们解释了为什么这种比较导致了气候变化监控和宠物,前景。 潜在项目的概述 1。注重隐私技术(宠物) PET可以实现数据共享、跨境数据流和 开放政府数据，同时保护数据隐私和数据合规性保护法和其他数据限制。这类技术很广泛：它可以包含用于安全通信和交易的技术，例如 安全消息传递和其他加密应用程序;隐私管理工具例如个人记录和其他数据的匿名化和假名化 治理和合规;防止或限制跟踪的软件;和方法计算和数据分析，可以从中获取有用的信息 数据，无法访问数据本身。它还可以扩展到以下网络或系统银行和支付等行业可实现安全、隐私保护 无需共享基础数据的事务。 我们的进展报告和圆桌会议主要关注有助于 人工智能研发。这些是计算方法，例如合成数据（这反过来又依赖于越来越多地使用AI），联邦学习，差分隐私，同态计算， 和零知识证明。这些方法通常可以与一种方法结合使用另一个是加密和数据治理。 这些方法一直是学术和企业研究兴趣的主题，但是 到目前为止，市场对一般用途的接受程度有限。关于宠物的指导英国信息专员办公室建议，“PET可能是理论上的， 不成熟且不可扩展“和”实施起来可能具有挑战性”。11合成数据,然而，欧盟委员会联合研究中心的一项研究发现， “事实证明，数据潜力巨大，是现成的首选方法部署在真实场景中。”12 我们的2021年进展报告列举了FCAI政府为以下方面的各种举措将PET纳入政府对数据的使用，并促进其在国家一级的使用 的水平。13一个共同的主题是联邦学习的发展或研究政府机构之间的系统和公开发布的差分隐私 数据。自报告发表以来，PET合作已成为 欧盟-美国贸易和技术委员会数据治理工作组14,在 2021年12月民主峰会上，美英宣布计划发布 一系列针对PET的有奖挑战，旨在在第二届PET上展示获胜的解决方案 2023年上半年的民主峰会。在宣布这些挑战时，拜登总统的科学顾问兼白宫科学办公室主任 当时的技术政策将该提案描述为帮助民主国家的一种方式 “释放新兴技术的经济、科学和社会效益 保护隐私、问责制和透明度等共同价值观。15除了对于这些双边倡议，联合国大数据专家委员会和 官方统计数据科学宣布成立“联合国PET实验室”，这是四个国家统计局（意大利国家统计局，统计局） 荷兰、英国国家统计局和美国人口普