AI 全球研究会议

全球AI研究议程 TABLEOFCONTENTS 第1节内容提要 第2节：介绍 21关于安全、可靠和可信的人工智能开发和使用的行政命令 7 22国家人工智能研发战略计划 8 23国际人工智能研究努力 8 第32节4全AI球研人究工推智荐能原研则究议程的定义 25焦点和受众 Section4Res9earchPrioritiestoAdvanceSafeSecureInclusiveandTrustworthyAI 41社会技术研究 10 13 42包容性研究基础设施 16 43支持AI应对全球挑战的研究 19 第54节4A推I荐基础研研究究实，践包括AI安全、安全和信任 24 451人研工究智资能助全者球劳动力市场影响研究 28 38 52研究生态系统中心 第6节：结论 40 53研究团队 41 全球人工智能研究议程2 术语表 AI：人工智能研发：研发 GAIRA：全球人工智能研究议程G7：七国集团 经合组织：经济合作与发展组织联合国大会：联合国大会 RFI索取资料 EO行政命令美国：美国 G20：20国集团 NIST：国家标准与技术研究所NSF：国家科学基金会 教科文组织：联合国教育、科学及文化组织GBV：基于性别的暴力 TFGBV：技术促进的基于性别的暴力 低收入和中等收入国家：低收入和中等收入国家可持续发展目标：联合国可持续发展目标AgTech：农业技术 LLM：大型语言模型 LGBTQ：女同性恋、男同性恋、双性恋、变性人、酷儿和双性恋ISO：国际标准化组织 IEC：国际电工委员会SDO：标准制定组织HIC：高收入国家 中小企业：中小企业PTSD：创伤后应激障碍B公司：福利公司 劳工组织：国际劳工组织 STEM：科学，技术，工程和数学欧盟：欧洲联盟 PPP：公私伙伴关系 美国国际开发署：美国国际开发署 3 图片来源：美国国际开发署 第1节：执行摘要 人工智能技术的快速发展正在一个互联互通的景观中展开，资金、数据、人才、信息和计算资源跨越国界流动。尽管如此，人工智能研究与开发（RD）政策通常由国内优先考虑驱动；资金孤岛和其他合作障碍可能导致孤立的网络，从而削弱国际科学合作潜在益处。全球研究生态系统应基于互惠、开放和透明的科学价值观，包括对人工智能系统的研究。 全球人工智能研究议程（GAIRA）建议了人工智能研究与开发（RD）的原则、优先事项和实践，以促进国际背景下的人工智能系统的安全、安全和可信的发展。其目标是在研究个人、社区和社会与人工智能系统之间互动方面加强国际合作，促进创新，并支持人工智能带来的利益的公平获取。所提出的结论为制定全球研究愿景提供了起点，在这种愿景中，研究社区不断评估人工智能研究的状态，审查当前解决提出优先事项的出版物，并识别差距以指导未来的研究，重点关注全球需求。 在人工智能研究领域缺乏国际共识，反映出人工智能研究社区仍处于不断发展之中。鉴于这种缺乏共识的情况，本议程将遵循三项推荐的人工智能研究原则：1）包容性和公平性，2）负责任的研究行为，以及3 ）伙伴关系与合作。这些原则强调了构建能够惠及个人、社区和社会的人工智能系统的重要性，坚持最高标准以保护自主权、尊严和隐私，将受影响的人群纳入合作者，并致力于系统的可持续性和研究的持续性 。这些原则广泛与研究人员、资助者和多边论坛之前的工作相呼应，并反映了共同致力于创建一个优先考虑人类福祉和社会价值（包括尊重人权）的人工智能生态系统。当以尊重人权的方式设计、开发、部署和使用时，人工智能可以推动有利于社会和个人的技术进步。这些原则是通过主题分析美国国内和国际指导文件（包括总统行政命令14110、G7关于研究诚信和研究安全的共同价值观和原则、经济合作与发展组织 （OECD）人工智能原则以及联合国大会关于“抓住安全、可靠且值得信赖的人工智能系统为可持续发展带来的机遇”的决议）而制定的。 4 FritzchensFritz更好的AI图像GPU射击蚀刻3CCBY40 本文档中提出的推进安全、可靠、包容和值得信赖的人工智能的研究重点 大致与以下主题一致： 社会技术研究亟需开展研究以深化对技术与社会之间互动关系的理解，并指导增强人类福祉的AI系统的设计与部署。在全球背景下，技术人员和研究人员可能在不熟悉的环境中开发或部署AI工具，因此理解AI系统作为社会技术系统的必要性即技术如何与人类行为、文化以及制度相互作用并产生影响显得尤为紧迫。监测和评估AI在实际应用场景中的发展和部署对识别AI应用的实际利益和风险至关重要，并有助于促进和保护所有人的基本人权和自由。 包容性研究基础设施人工智能研究进展的关键要素之一是为研究人员提供数据、计算能力以及研究平台的访问权限，并在适当保护隐私和国际人权的前提下促进人工智能技术与系统的创新 。研究基础设施应可供研究人员使用，以促进创新、高质量的研究以及研究成果的传播。多样化的视角将推动重要的发现、应用和敏感性，对于全球范围内推进人工智能技术具有重要意义。 支持AI应对全球挑战的研究优先将AI应用于解决全球挑战可以促进环境保护、经济韧性和社会福祉。此外，协作努力可以使AI系统、设备和基础设施更加可持续，而开展应用研究则可以推动一个更安全、更健康和更繁荣的世界。 AI基础研究，包括AI安全、安保和可信性人工智能仍处于早期发展阶段，需要更多的技术进步以推动前沿技术的发展，并朝着安全、安全和可信赖的系统方向前进。为了支持这些发展并参与国际人工智能治理的讨论，研究人员还必须解决与信息完整性、网络安全以及测量与评估等相关的问题。 人工智能对全球劳动力市场影响研究人工智能在自动化流程和提高劳动效率方面的潜力要求我们研究人工智能对劳动力市场的影响。本部分概述了填补研究空白、理解颠覆性变化以及提出适应不同全球和经济背景的风险缓解措施的机会。研究人员应考虑劳动市场的变动、新类型工作的出现以及财富分配和收入不平等的影响。 5 本文档的最后一节列出AI研究的推荐实践部分基于从索取资料RFI1由来自各个地区、行业和背景的受访者提供信息。它为研究资助者、研究生态系统枢纽和研究团队可能采取的实施实践提供了全球视角 。本部分可以作为利益相关方的指南，帮助其将行动与议程的目标对齐。 研究资助者： 提升透明度 开放资金呼吁支持国际人工智能研究合作 促进研究基础设施的可访问性，以适应不同的人口统计数据 提供连接机会 追求公私伙伴关系 研究生态系统中心： 激励重复性研究 围绕研究出版物培养广泛接受的实践 围绕AI研究指南进行协调和协作 支持私营部门优先考虑的超越主题的研究 提供指导，以适应不断发展的监管环境 对于研究团队： 优先考虑多学科团队 与当地研究人员合作 利用社会技术方法和研究设计 纳入风险评估 本研究议程，作为广泛的国家和国际文学2强调了AI研究合作的重要性，使利益相关方能够利用资源和竞争优势，促进坚守基本价值观（如国际人权和隐私保护）的前沿AI研究。通过关注AI系统的技术进步及其与社区的互动，全球研究界可以促进安全、可靠和可信赖的AI发展。在国际研究网络中推动这些重点领域的发展，并与全球研究利益相关方进行持续对话，以构建这一平衡生态系统，应成为该领域转型的基础。 1“全球AI研究议程”2024联邦注册2024年3月14日httpswwwfederalregistergovdocuments20240314202405357globalai researchagenda2凯里肖恩F米茨勒乔舒亚P和印达安德烈拉“地缘AI合作：全球规模的AI研究与开发”派克研究所2022年11月4日httpswwwbrookingseduarticlesaicooperationonthegroundairesearchanddevelopmentonaglobalscale 6 图片作者：AlanWarburtonBBCAINatureCCBY40 第2节：介绍 21关于安全、可靠和可信的人工智能开发和使用的行政命令 全球人工智能研究议程GAIRA是根据14110号行政命令第11cii条公布的。3 安全、可靠且值得信赖的人工智能开发和使用。行政命令概述了整体政府策略，通过多边论坛促进全球实 践，加强伙伴关系以应对共同的人工智能挑战，并支持全球能力提升。行政命令指出：“美国国务卿和国际开发署署长应与能源部长和国家科学基金会主任合作，制定一项全球人工智能研究议程，以指导美国境外相关研究的目标和实施。该议程应当： 包括旨在确保AI的安全、负责任、有益且可持续的全球开发和采用的原则、准则、优先事项和最佳实践； B解决人工智能在国际背景下对劳动力市场的影响，包括通过建议风险缓解措施。 对这个全球人工智能研究议程中概述的概念的补充是另一个EO可交付成果，即AI在全球发展剧本，4其目的是促进负责任地使用人工智能来造福全球，同时减轻潜在的风险和挑战。 3“安全、可靠和值得信赖的人工智能开发与使用。”2023联邦公报。2023年11月1日。httpswwwfederalregistergovdocuments20231101202324283safesecureandtrustworthydevelopmentanduseofartificialintelligence 4“美国国际开发署。全球发展人工智能手册。”华盛顿特区：USAID，2024 httpwwwusaidgovdigitaldevelopmentaiglobaldevelopmentplaybook 7 22国家人工智能研发战略计划 GAIRA旨在补充美国国家人工智能研发战略计划，5更新于2023年5月，通过探索具体的机遇以促进安全、可靠和可信赖的人工智能系统的国际研究合作。具体而言，该议程更深入地探讨了以下优先事项的研究机遇： 策略1对基础和负责任的AI研究进行长期投资 战略2：开发有效的人类与人工智能合作方法 战略5：为AI培训和测试开发共享的公共数据集和环境 策略9：建立人工智能研究国际合作的原则和协调方法 美国政府的科学资助机构，如国家科学基金会和能源部，积极投身于全球人工智能研究，符合《国家人工智能研发战略计划》。《全球人工智能研究前沿》的发布并未伴随额外的美国政府资金支持，但它确实为已经在科学机构资助下的关键研究领域提供了概述和扩展。该报告强调了国际协作与协调的必要性，以应对这些领域的问题，并通过现有的美国研究资金承诺开发安全、可靠和可信赖的人工智能系统，从而获得积极的好处。 23国际人工智能研究努力 原则216的OECD可信AI原则7呼吁政府促进公共和私人对人工智能研究与开发的投资，并强调基础研究的重要性，同时承认研究政策的时间跨度较长。这一原则突出了长期公共投资、开放科学投资以及跨学科努力对于推动可信人工智能创新的关键作用，因为由人工智能驱动的科学突破可能有助于解决社会挑战并创造全新的行业。此类投资应与基于证据的风险理解相结合，并根据AI系统的特性和限制进行调整。AI准备水平，8对于推动和塑造值得信赖的AI创新并确保所有人的有益成果至关重要。 许多组织、论坛和国家正积极追求研究优先事项，而GAIRA与全球现有的多种研究相互补充。这包括由联合国、经合组织（OECD）、人工智能全球合作伙伴组织、G20、G7以及《关于先进人工智能安全性的国际科学报告》等机构指导并发布的研究成果和出版物。 5人工智能选择委员会，国家科学与技术委员会，阿蒂普拉哈卡尔，池岛敬，劳里洛卡西奥，塞图拉曼帕查纳than，杰琳丁里奇蒙德等。2023。“2023年国家人工智能研究与发展战略计划更新。”httpswwwwhitehousegovwpcontentuploads202305 NationalArtificialIntelligenceResearchandDevelopmentStrategicPlan2023Updatepdf6“投资于人工智能研究与发展（OECDAI原则）OECDAI。”ndhttpsoecd