AI 全球研究会议

全球AI研究议程 TABLEOFCONTENTS --------------------------------------------------------------------------------- 第1节:内容提要-------�------------------------------------------------------------- 第2节：介绍--------------------------------------------------------------------- 2.1关于安全、可靠和可信的人工智能开发和使用的行政命令����������������� ��������������������������7 2.2国家人工智能研发战略计划������������������������������ �������������������������������������������� �������������������������������������������� ���������8 2.3国际人工智能研究努力�������������������������������� �������������������������������������������� �������������������������������������������� ���8 第32节.4:全AI球研人究工推智荐能原研则究议程的定义����������������������������� �������������������������������������������� 2.5焦点和受众������������������������������������� Secti�on�4�:R�es9earchPrioritiestoAdvanceSafe,Secure,Inclusive,andTrustworthyAI��� ��������������������������������������������4�.1�社�会�技�术�研�究������������������������������������� �����������������1�0������������������������� �������������������������������������������� ����������13 4.2包容性研究基础设施��������������������������������� �������������������������������������������� �����������������������������������������16 4.3支持AI应对全球挑战的研究����������������������������� �������������������������������������������� �������������������������19 第54节.4:A推I荐基础研研究究实，践包--括--A-I安--全-、--安-全--和-信--任--�--�-�--�-�--�-�-�--�-�--�-�--�-�--�-�--�-�--�-�--�-�--�-�------------ ��������������������������������24 45.1人研工究智资能助全者球�劳�动�力�市�场�影�响�研�究���������������������������� 28 �������������������������������������������� �������������������������������������������� ���������������������38 5.2研究生态系统中心���������������������������������� �������������������������������������������� 第6�节�：�结�论��-�--�-�--�-�--�-�--�-�--�-�--�-�--�-�--�-�--�-�--�-�--�-�--�-�--�-�--�-�--�-�--�-�--�-�--�-�--�------------ ��������40 5.3研究团队�������������������������������������� �������������������������������������������� �������������������������������������������� ����������������������41 全球人工智能研究议程2 术语表 AI：人工智能研发：研发 GAIRA：全球人工智能研究议程G7：七国集团 经合组织：经济合作与发展组织联合国大会：联合国大会 RFI:索取资料 E.O.:行政命令美国：美国 G20：20国集团 NIST：国家标准与技术研究所NSF：国家科学基金会 教科文组织：联合国教育、科学及文化组织GBV：基于性别的暴力 TFGBV：技术促进的基于性别的暴力 低收入和中等收入国家：低收入和中等收入国家可持续发展目标：联合国可持续发展目标AgTech：农业技术 LLM：大型语言模型 LGBTQ+：女同性恋、男同性恋、双性恋、变性人、酷儿和双性恋ISO：国际标准化组织 IEC：国际电工委员会SDO：标准制定组织HIC：高收入国家 中小企业：中小企业PTSD：创伤后应激障碍B公司：福利公司 劳工组织：国际劳工组织 STEM：科学，技术，工程和数学欧盟：欧洲联盟 PPP：公私伙伴关系 美国国际开发署：美国国际开发署 3 图片来源：美国国际开发署 第1节：执行摘要 人工智能技术的快速发展正在一个互联互通的景观中展开，资金、数据、人才、信息和计算资源跨越国界流动。尽管如此，人工智能研究与开发（R&D）政策通常由国内优先考虑驱动；资金孤岛和其他合作障碍可能导致孤立的网络，从而削弱国际科学合作潜在益处。全球研究生态系统应基于互惠、开放和透明的科学价值观，包括对人工智能系统的研究。 全球人工智能研究议程（GAIRA）建议了人工智能研究与开发（R&D）的原则、优先事项和实践，以促进国际背景下的人工智能系统的安全、安全和可信的发展。其目标是在研究个人、社区和社会与人工智能系统之间互动方面加强国际合作，促进创新，并支持人工智能带来的利益的公平获取。所提出的结论为制定全球研究愿景提供了起点，在这种愿景中，研究社区不断评估人工智能研究的状态，审查当前解决提出优先事项的出版物，并识别差距以指导未来的研究，重点关注全球需求。 在人工智能研究领域缺乏国际共识，反映出人工智能研究社区仍处于不断发展之中。鉴于这种缺乏共识的情况，本议程将遵循三项推荐的人工智能研究原则：1）包容性和公平性，2）负责任的研究行为，以及3 ）伙伴关系与合作。这些原则强调了构建能够惠及个人、社区和社会的人工智能系统的重要性，坚持最高标准以保护自主权、尊严和隐私，将受影响的人群纳入合作者，并致力于系统的可持续性和研究的持续性 。这些原则广泛与研究人员、资助者和多边论坛之前的工作相呼应，并反映了共同致力于创建一个优先考虑人类福祉和社会价值（包括尊重人权）的人工智能生态系统。当以尊重人权的方式设计、开发、部署和使用时，人工智能可以推动有利于社会和个人的技术进步。这些原则是通过主题分析美国国内和国际指导文件（包括总统行政命令14110、G7关于研究诚信和研究安全的共同价值观和原则、经济合作与发展组织 （OECD）人工智能原则以及联合国大会关于“抓住安全、可靠且值得信赖的人工智能系统为可持续发展带来的机遇”的决议）而制定的。 4 FritzchensFritz/更好的AI图像/GPU射击蚀刻3/CC-BY4.0 本文档中提出的推进安全、可靠、包容和值得信赖的人工智能的研究重点 大致与以下主题一致： ■社会技术研究-亟需开展研究以深化对技术与社会之间互动关系的理解，并指导增强人类福祉的AI系统的设计与部署。在全球背景下，技术人员和研究人员可能在不熟悉的环境中开发或部署AI工具，因此理解AI系统作为社会技术系统的必要性——即技术如何与人类行为、文化以及制度相互作用并产生影响——显得尤为紧迫。监测和评估AI在实际应用场景中的发展和部署对识别AI应用的实际利益和风险至关重要，并有助于促进和保护所有人的基本人权和自由。 ■包容性研究基础设施-人工智能研究进展的关键要素之一是为研究人员提供数据、计算能力以及研究平台的访问权限，并在适当保护隐私和国际人权的前提下促进人工智能技术与系统的创新 。研究基础设施应可供研究人员使用，以促进创新、高质量的研究以及研究成果的传播。多样化的视角将推动重要的发现、应用和敏感性，对于全球范围内推进人工智能技术具有重要意义。 ■支持AI应对全球挑战的研究-优先将AI应用于解决全球挑战可以促进环境保护、经济韧性和社会福祉。此外，协作努力可以使AI系统、设备和基础设施更加可持续，而开展应用研究则可以推动一个更安全、更健康和更繁荣的世界。 ■AI基础研究，包括AI安全、安保和可信性-人工智能仍处于早期发展阶段，需要更多的技术进步以推动前沿技术的发展，并朝着安全、安全和可信赖的系统方向前进。为了支持这些发展并参与国际人工智能治理的讨论，研究人员还必须解决与信息完整性、网络安全以及测量与评估等相关的问题。 ■人工智能对全球劳动力市场影响研究-人工智能在自动化流程和提高劳动效率方面的潜力要求我们研究人工智能对劳动力市场的影响。本部分概述了填补研究空白、理解颠覆性变化以及提出适应不同全球和经济背景的风险缓解措施的机会。研究人员应考虑劳动市场的变动、新类型工作的出现以及财富分配和收入不平等的影响。 5 本文档的最后一节列出AI研究的推荐实践部分基于从索取资料(RFI)1由来自各个地区、行业和背景的受访者提供信息。它为研究资助者、研究生态系统枢纽和研究团队可能采取的实施实践提供了全球视角 。本部分可以作为利益相关方的指南，帮助其将行动与议程的目标对齐。 ■研究资助者： О提升透明度 О开放资金呼吁支持国际人工智能研究合作 О促进研究基础设施的可访问性，以适应不同的人口统计数据 О提供连接机会 О追求公私伙伴关系 ■研究生态系统中心： О激励重复性研究 О围绕研究出版物培养广泛接受的实践 О围绕AI研究指南进行协调和协作 О支持私营部门优先考虑的超越主题的研究 О提供指导，以适应不断发展的监管环境 ■对于研究团队： О优先考虑多学科团队 О与当地研究人员合作 О利用社会技术方法和研究设计 О纳入风险评估 本研究议程，作为广泛的国家和国际文学,2强调了AI研究合作的重要性，使利益相关方能够利用资源和竞争优势，促进坚守基本价值观（如国际人权和隐私保护）的前沿AI研究。通过关注AI系统的技术进步及其与社区的互动，全球研究界可以促进安全、可靠和可信赖的AI发展。在国际研究网络中推动这些重点领域的发展，并与全球研究利益相关方进行持续对话，以构建这一平衡生态系统，应成为该领域转型的基础。 1“全球AI研究议程.”2024.联邦注册.2024年3月14日.https://www.federalregister.gov/documents/2024/03/14/2024-05357/global-ai -research-agenda.2凯里,肖恩F.,米茨勒,乔舒亚P.和印达,安德烈拉.“地缘AI合作：全球规模的AI研究与开发.”派克研究所,2022年11月4日.https://www.brookings.edu/articles/ai-cooperation-on-the-ground-ai-research-and-development