AI 全球研究会议

全球AI研究议程 TABLEOFCONTENTS --------------------------------------------------------------------------------- 第1节:内容提要-------�------------------------------------------------------------- 第2节：介绍--------------------------------------------------------------------- 2.1关于安全、可靠和可信的人工智能开发和使用的行政命令����������������� ��������������������������7 2.2国家人工智能研发战略计划������������������������������ �������������������������������������������� �������������������������������������������� ���������8 2.3国际人工智能研究努力�������������������������������� �������������������������������������������� �������������������������������������������� ���8 第32节.4:全AI球研人究工推智荐能原研则究议程的定义����������������������������� �������������������������������������������� 2.5焦点和受众������������������������������������� Secti�on�4�:R�es9earchPrioritiestoAdvanceSafe,Secure,Inclusive,andTrustworthyAI��� ��������������������������������������������4�.1�社�会�技�术�研�究������������������������������������� �����������������1�0������������������������� �������������������������������������������� ����������13 4.2包容性研究基础设施��������������������������������� �������������������������������������������� �����������������������������������������16 4.3支持AI应对全球挑战的研究����������������������������� �������������������������������������������� �������������������������19 第54节.4:A推I荐基础研研究究实，践包--括--A-I安--全-、--安-全--和-信--任--�--�-�--�-�--�-�-�--�-�--�-�--�-�--�-�--�-�--�-�--�-�--�-�------------ ��������������������������������24 45.1人研工究智资能助全者球�劳�动�力�市�场�影�响�研�究���������������������������� 28 �������������������������������������������� �������������������������������������������� ���������������������38 5.2研究生态系统中心���������������������������������� �������������������������������������������� 第6�节�：�结�论��-�--�-�--�-�--�-�--�-�--�-�--�-�--�-�--�-�--�-�--�-�--�-�--�-�--�-�--�-�--�-�--�-�--�-�--�-�--�------------ ��������40 5.3研究团队�������������������������������������� �������������������������������������������� �������������������������������������������� ����������������������41 全球人工智能研究议程2 术语表 AI：人工智能研发：研发 GAIRA：全球人工智能研究议程G7：七国集团 经合组织：经济合作与发展组织联合国大会：联合国大会 RFI:索取资料 E.O.:行政命令美国：美国 G20：20国集团 NIST：国家标准与技术研究所NSF：国家科学基金会 教科文组织：联合国教育、科学及文化组织GBV：基于性别的暴力 TFGBV：技术促进的基于性别的暴力 低收入和中等收入国家：低收入和中等收入国家可持续发展目标：联合国可持续发展目标AgTech：农业技术 LLM：大型语言模型 LGBTQ+：女同性恋、男同性恋、双性恋、变性人、酷儿和双性恋ISO：国际标准化组织 IEC：国际电工委员会SDO：标准制定组织HIC：高收入国家 中小企业：中小企业PTSD：创伤后应激障碍B公司：福利公司 劳工组织：国际劳工组织 STEM：科学，技术，工程和数学欧盟：欧洲联盟 PPP：公私伙伴关系 美国国际开发署：美国国际开发署 3 图片来源：美国国际开发署 第1节：执行摘要 人工智能技术的快速发展正在一个相互连接的景观中进行，在这个景观中，资金、数据、人才、信息和计算资源跨越国界流动。尽管具有全球相关性，人工智能研发（R&D）政策通常仍由国内优先事项驱动；资金孤岛和其他合作障碍可能导致孤立的网络 ，从而削弱国际科学合作潜在利益。全球研究生态系统应基于互惠、开放和透明的科学价值，包括对人工智能系统的研究。 全球人工智能研究议程（GAIRA）建议了人工智能研究与开发（R&D）的原则、优先事项和实践，以促进国际背景下的人工智能系统的安全、安全和可信发展。其目标是在研究个人、社区和社会与人工智能系统之间互动方面加强合作，促进创新，并支持人工智能带来的好处的公平获取。所提出的结论为形成一个全球性的研究愿景奠定了起点，在这一愿景中，研究社区不断评估人工智能研究的状态，审查当前针对所提出优先事项的出版物，并识别差距以指导未来的研究，重点关注全球需求。 在人工智能研究领域缺乏国际共识，反映出人工智能研究社区仍处于不断发展之中。鉴于这种缺乏共识的情况，本议程将由三个推荐的人工智能研究原则指导：1）包容性和公平性，2）负责任的研究行为，以及3）合作与伙伴关系。这些原则强调了构建对个人、社区和社会有益的人工智能系统的重要性，坚持最高的标准以保护自主权、尊严和隐私，并邀请受影响的人作为合作者参与其中，同时努力实现系统的可持续性和研究的可持续性。它们广泛与研究人员、资助者和多边论坛之前的工作相呼应，并反映了共同致力于创建一个优先考虑人类福祉和社会价值（包括尊重人权）的人工智能生态系统。当以尊重权利的方式设计 、开发、部署和使用时，人工智能可以推动有利于社会和个人的技术进步。这些原则是在对美国国内和国际指导文件的主题分析中制定的——具体而言，包括总统备忘录14110、G7关于研究诚信和研究安全的共同价值观和原则、经济合作与发展组织（OECD）的人工智能原则，以及联合国大会关于“抓住安全、可靠和值得信赖的人工智能系统促进可持续发展的机会”的决议。 4 FritzchensFritz/更好的AI图像/GPU射击蚀刻3/CC-BY4.0 本文档中提出的推进安全、可靠、包容和值得信赖的人工智能的研究重点 大致与以下主题一致： ■社会技术研究-对于加深对技术与社会之间互动的理解以及指导增强人类福祉的AI系统设计和部署的研究需求迫在眉睫。理解AI系统作为社会和技术系统的必要性——在这种系统中，技术与人类行为、文化及机构相互作用并产生影响——在全球背景下显得尤为紧迫。在这种背景下，技术专家和研究人员可能在不熟悉的环境中开发或部署AI工具。监测和评估AI在实际环境中的发展和应用的影响对于识别AI应用的实际利益和风险、促进并保护所有人的基本人权和自由至关重要。 ■包容性研究基础设施-对AI研究进展而言，关键要素之一是确保研究人员能够访问数据、计算能力以及研究平台，并且在适当的安全措施保护隐私和国际人权的前提下，这些资源能够支持AI技术与系统的创新。研究基础设施应当可供研究人员使用，以促进创新、高质量的研究以及研究成果的传播。多样化的视角将推动重要的发现、应用以及全球范围内推进AI技术时至关重要的敏感问题的解决。 ■支持AI应对全球挑战的研究-优先将AI应用用于应对全球挑战可以促进环境保护、经济韧性和社会福祉。此外，协作努力可以使AI系统、设备和基础设施更加可持续，而开展应用研究可以推动一个更安全、更健康和更加繁荣的世界。 ■AI基础研究，包括AI安全、安保和可信性-人工智能仍处于早期发展阶段，需要更多的技术进步以推动前沿技术的发展，并朝着安全、安全和可信赖的系统方向前进。为了支持这些发展并为国际人工智能治理讨论做出贡献，研究人员还必须解决与信息完整性、网络安全以及测量与评估等相关的问题。 ■人工智能对全球劳动力市场影响研究-人工智能在自动化流程和提高劳动效率方面的潜力要求我们研究AI对劳动力市场的影响。本节概述了填补研究空白、理解颠覆性变化并提出适应不同全球和经济背景下的风险缓解措施的机会。研究人员应考虑劳动市场的变化、新类型工作的出现以及对财富分配和收入不平等的影响。 5 本文档的最后一节列出AI研究的推荐实践部分基于从索取资料(RFI)1由来自各个地区、行业和背景的受访者提供信息。它提供了关于研究资助者、研究生态系统枢纽和研究团队可能采取的实施实践的全球视角。本部分可以作为利益相关方的指南，帮助他们将行动与议程目标对齐。 ■研究资助者： О提升透明度 О开放资金呼吁支持国际人工智能研究合作 О促进研究基础设施的可访问性，以适应不同的人口统计数据 О提供连接机会 О追求公私伙伴关系 ■研究生态系统中心： О激励重复性研究 О围绕研究出版物培养广泛接受的实践 О围绕AI研究指南进行协调和协作 О支持私营部门优先考虑的超越主题的研究 О提供指导，以适应不断发展的监管环境 ■对于研究团队： О优先考虑多学科团队 О与当地研究人员合作 О利用社会技术方法和研究设计 О纳入风险评估 本研究议程，作为广泛的国家和国际文学,2强调了人工智能研究合作的重要性，使利益相关方能够利用资源和竞争优势，推动兼顾前沿技术和基本价值观（如国际人权和隐私保护）的先进人工智能研究。通过专注于人工智能系统的技术进步及其与社区的互动，全球研究社区可以促进安全、可靠和可信的人工智能开发。应在国际研究网络中推广这些优先领域，并与全球研究利益相关者进行持久对话，以构建这种平衡生态系统，随着该领域的不断发展变化。 1“全球AI研究议程.”2024.联邦公报.2024年3月14日.https://www.federalregister.gov/documents/2024/03/14/2024-05357/global-ai -research-agenda. 2凯里，卡梅隆F.，米茨勒，约书亚P.，和伦达，安德里亚.“地面合作：全球规模的AI研究与开发.”布鲁金斯学会，2022年11月4日.https://www.brookings.edu/articles