能否在人工智能研究方面与中国合作？重新平衡人工智能研究网络（英）

2023年1 月的报告 可以在AI民主国家与中国合作吗研究呢? 再平衡AI研究网络 卡梅隆·克里|约书亚·梅尔策|马特·希恩 作者 卡梅伦·克里是布鲁金斯学会的AnnR.和AndrewH.Tisch杰出访问学者，他经常就涉及信息技术的公共问题发表演讲，作家和评论员。除了在布鲁金斯学会的工作外，克里还是麻省理工学院媒体实验室的访问学者。此前，他曾担任美国商务部总法律顾问和代理部长，领导奥巴马政府在消费者隐私方面的工作，包括消费者隐私权利法案。他还曾在私人执业中担任诉讼律师和监管律师。 约书亚·p·迈尔策是布鲁金斯学会的高级研究员，他的研究重点是数字贸易、新兴技术和人工智能。梅尔策在美国国会作证时， 美国国际贸易委员会和欧洲议会。他一直是欧盟数据流和隐私问题诉讼的专家证人，也是世界银行贸易和隐私事务的顾问。Meltzer是澳大利亚国家数据咨询委员会的成员。他教会了墨尔本大学法学院和多伦多大学法学院的数字贸易法，在那里他是一个兼职教授,教英国外交，联邦和发展办公室外交学院的电子商务和数字贸易。在加入布鲁金斯学会之前，梅尔策曾在澳大利亚驻华盛顿特区大使馆担任外交官，在此之前是澳大利亚外交和贸易部的贸易谈判代表。 马特希恩他是卡内基国际和平基金会的研究员，他的研究涵盖全球技术问题，重点是中国。他的研究项目探索了中国的人工智能生态系统、中国技术政策的未来以及技术在中国政治经济中的作用。马特是《跨太平洋实验：中国和加州如何合作和竞争我们的未来》（CounterpointPress，2019）的作者。从2010年到2016年，Matt在中国生活和工作，包括作为第一位中国记者 马特曾在保尔森基金会智库MacroPolo担任研究员，领导中国技术问题的研究。 确认 作者感谢布鲁金斯学会的MishaelaRobison和AaronTielemans的研究协助。AaronTielemans还担任FCAI的项目经理，以及欧洲政策研究中心的AndreaRenda。作者还感谢布鲁金斯学会的IzzyTaylor，AntonioSaadipour和EstherLeeRosen的编辑和制作协助，以及RyanHass，HenryGao和KevinWolf的同行评审。 布鲁金斯学会(BrookingsInstitution)是一个致力于独立研究和政策解决方案的非营利组织。其使命是进行高质量、独立的研究，并在研究的基础上，为政策制定者和公众提供创新、实用的建议。 布鲁金斯学会任何出版物的结论和建议仅代表其作者的结论和建议，并不反映该机构、其管理层或其他学者的观点 。 亚马逊、苹果、Facebook、谷歌、IBM和微软是布鲁金斯学会的捐助者。 布鲁金斯学会致力于所有工作的质量、独立性和影响力。捐助者支助的活动反映了这一承诺。 介绍 中国在全球人工智能（AI）研究、开发和政策制定领域占有重要地位。它的人才、不断增长的技术技能和创新以及国家对科学技术的投资使其成为人工智能的领导者。 二十多年来，中国已经深深地卷入了人工智能研发（R&D）的国际网络：与国外同行共同撰写论文，托管美国企业人工智能实验室，并帮助扩大全球人工智能研究的前沿。在此期间的大部分时间里，这些联系及其影响在政策界基本上没有得到审查。 相反，这些联系的性质是由建立它们的研究人员、大学和公司决定的。 但在过去五年中，中国与全球研发网络之间的这些联系受到政府、大学、公司和民间社会的日益重视。四个因素共同推动了这一重新评估：（1）人工智能本身的能力不断增强及其对经济竞争力和国家安全的影响;（2）中国不道德地使用人工智能，包括部署人工智能工具对其公民进行大规模监控，尤其是新疆的维吾尔族，但越来越普遍;（3）中国在人工智能方面的能力和野心的上升，使其成为该领域与美国的真正竞争对手;和 （4）中国政府加强这些能力的政策，包括国家指导的投资和来自国外的非法知识转让。 综上所述，这些担忧引发了对这些长期关系的严格审查和新问题。合作是否有助于中国在人工智能领域超越民主国家？民主国家的技术人员和公司在多大程度上为中国部署压制性的人工智能工具做出了贡献？ 本工作文件考虑了与中国在人工智能方面的国际合作是否以及在多大程度上能够持续下去。过去两年来，中国一直是参加人工智能合作论坛（FCAI）的政府官员和专家讨论的主题。2021年FCAI进展报告确定了中国开发和使用人工智能对国际合作的影响.1该报告涉及中国关于监管调整、标准制定、贸易协定和研发项目的若干建议，但也重点关注中国人工智能的政策和应用，这些政策和应用提出了一系列 在该国更广泛的地缘政治、经济和威权政策背景下的挑战。2021年12月8日的圆桌讨论向FCAI参与者更全面地介绍了这些问题，并征求了他们的观点。 本文扩展和提炼了这项工作，重点关注中国参与国际人工智能研发网络的范围、好处和潜在限制。在第一部分中，它介绍了中国人工智能的发展历史以及与国际研发的非凡成功合作，并解释了这段历史如何帮助中国成为该领域的全球领导者。第二部分展示了中国如何融入国际人工智能研发网络，中国和美国成为彼此最大的合作者，中国也是参与FCAI的其他六个国家的主要合作者。这种合作通过多种途径进行：大学招生、会议、联合出版物以及在研究实验室工作，这些实验室都以各种方式开发、传播和部署人工智能。 然后，第三部分概述了经济、道德和战略问题，这些问题质疑人工智能的这种合作水平是否可以继续下去，以及断开合作渠道的挑战和缺点。然后，该分析着眼于与中国在人工智能研发方面的合作如何演变。它主要是通过以美国为中心的镜头来做到这一点，因为美国作为迄今为止中国在人工智能领域最大的竞争对手和合作者，为那些也与中国合作人工智能研发并面临许多相同问题的国家和FCAI参与者提供了保护伞和模板。 此外，应对中国所面临的挑战的措施更有可能在协调中比孤立地有效。最近美国对半导体及其制造技术的出口管制暴露了日本和韩国等国的关键作用。目前，美国政府能够通过外国直接产品规则等行政措施迫使外国遵守，但如果外国制造商将美国技术从其供应链中设计出来，这些机制可能会变得毫无意义。本文涉及合作研究而不是硬件供应链，但这些领域也存在类似的动态。因此，本文不仅涉及与中国的合作，还涉及与中国有关的合作。 应对中国面临的挑战的措施更有可能在协调中比孤立地有效。 美国、参与FCAI的其他政府及其合作伙伴并不是这部剧的唯一演员。未来与中国的人工智能研发将取决于中国的所作所为。中国加大了对技术自力更生的推动，加速了中国在某些方面与国际技术生态系统的脱离，同时迄今为止仍深深地陷入了其他国际研究网络。未来 这种接触的轨迹将在很大程度上取决于中国政府和中国共产党采取的行动。 鉴于这些变化带来的问题，本文建议通过基于风险的方法重新平衡人工智能研发与中国研究人员和机构。展望未来，这种合作将需要对成本和收益进行明确的评估，旨在最大限度地发挥开放研究环境和强大的国际联系所带来的利益，以应对人工智能研发与中国带来的风险。采用适当的基于风险的方法通常不会建议与中国在人工智能研发方面完全脱离接触，而是需要考虑到知识转移的各种载体进行再平衡。至关重要的是，政府需要相互合作，并与公司、大学和研究实验室合作，为风险评估提供信息，并了解与中国进行人工智能研发的好处。未能将这些伙伴关系纳入风险评估过程可能会导致错误衡量风险和收益的不良结果，使美国的情况变得更糟。 下表总结了第二部分讨论的每种合作途径（1）第三部分讨论的成本和效益，以及（2）每个网络再平衡在全球范围内有效所需的风险缓解战略和国际合作建议。每种协作途径的好处、风险和挑战各不相同;因此，除了有限的例外情况外，外国学生的入学和通过出版和会议传播知识应继续下去，而积极的研究合作要求在政府知情和指导下对个别研究人员和机构进行更严格的限制。 人工智能研发网络 成本 好处 风险缓解策略 国际合作的作用 联合美国中美AI出版物 接触可用于以不利于中国人工智能能力的方式提高中国人工智能能力的专业知识（超出仅阅读出版物所获得的知识）。美国价值观、经济或国家安全 在中国获取支持美国创新的人工智能知识有机会了解中国人工智能研发的步伐和重点 制定一种筛选联合研究的方法，考虑到它是否为中国研究人员提供了他们自己无法获得的新信息;中国合作伙伴是否隶属于中国军队（即国防七子）;并考虑到研究的潜在应用 需要与主要的人工智能大国（欧盟、日本、英国和其他国家）结盟，以防止美国的行动仅仅导致中国研究人员增加与第三国人工智能研究人员的联合出版物。 研究关系可以导致在美国大学攻读研究生 人工智能国际会议 中国研究人员了解美国前沿人工智能发展 为美国研究人员提供有关中国人工智能发展的见解 狭隘地关注从会议中筛选出不良行为者，以限制对通过参加会议获得的人工智能知识和网络类型的访问。 顶级人工智能会议是全球性的，需要国际协调 了解中国人工智能研发步伐和重点的机会网络 在美国大学注册计算机科学和其他人工智能相关课程 对技术研究人员和工程师进行实践培训，其中许多人将留在美国，但其中一些人可能会返回中国 大学的经济收益有利于学生/教师的研究机会让中国人工智能人才了解美国的价值观和机遇 联合人工智能研究的原则，以指导大学如何筛选出高风险学生（例如，来自CCP）与执法合作,确定糟糕的演员 需要与西方其他大学保持一致，以解决泄漏问题（即在非美国大学)关于研究原则的共同办法的国际合作 增加中国学生/研究人员的机会 毕业后留在美国（即提供获得永久居留权和公民身份的明确途径） 公开出版 访问 访问美国 减少开 人工智能的研究 尖端的人工智能研究 研究人工智能的发展中国 出版可能不是可行的和不一致的与更广泛的美国支持一个开放互联网 美国在中国的私营部门实验室/中国的私营部门实 培训和获取商业敏感的人工智能知识 密切与中国人工智能研究人员的合作 对可以进行的人工智能研究类型的限制 与合作伙伴合作，商定禁止技术转让要求的规则（例如，贸易协定中的非源代码要求） 验室 要求技术转让 增加中国人工智能生态 与美国执法部门合作解决 系统的理解 人工智能知识被盗风险 开展国际合作应对知识产权盗窃风险 支持技术转让要求的国际规则 在中国测试和试用人工智能产品，以衡量商业影响 我们还建议建立一个机构，促进政府、学术界和民间社会之间就与中国的国际人工智能合作风险进行信息共享。这些信息将为基于风险的分析提供信息，该分析需要支持与中国的人工智能研发网络的任何再平衡。 中国在国际人工智能研发所扮演的角色 “科学是当今世界上最国际化的领域，”《科学美国人》的编辑去年说。国际科学合作为分担项目成本、资源和专业知识提供了机会。当涉及到人工智能研发时，这些机会尤其重要，因为出于FCAI进展报告中描述的原因，人工智能的研发特别具有协作性。此外，联合研究可以产生更大的影响，因为产出在全球范围内更容易被接受，并且它提供了更多获得新想法的机会.2事实上，研究表明，国际合作的科学出版物比较少合作的科学出版物被引用得更多.3由于所有这些因素，跨学科的人工智能研发合作，组织和国际边界是广泛的。 中国通过合作研究、出国留学、监测国际出版物、主办外国技术实验室以及通过各种方式进行技术转让，充分利用了国际科学合作体系.4本节探讨了人工智能研发方面的情况，帮助中国成为深深植根于美国和其他人工智能领导者研发生态系统的全球领导者。世界。 25年的中国人工智能发展 要全面探索中国如何成为人工智能领域的领导者，需要简要回顾中国人工智能发展的历史以及国际合作在这一过程中发挥的作用。下面概述了中国研究人员和人工智能开发人员如何从人工智能研发的所有方式中受益，重点是出国留学、人工智能论文的在线发表、与海外研究人员联合发表人工智能，以及在中国的美国人工智能实验室就业。 5但在毛泽东统治的近三十年中，中国与世界主要科学大国的敌对关系迫使中国从内部寻求技术力量，导致一个高度孤立的科学和技术生态系统。但随着1970年代后期中国“改革开放”时期的开始，中国开始系统地