《抓住安全、可靠和值得信赖的人工智能系统带来的机遇，促进可持续发展》

联合国 General装配Distr.:Limited 2024年3月11 日 原件：英文 A/78/L.49 第七十八届会议 议程项目13 联合国经济、社会及有关领域各次主要会议和首脑会议成果的统筹协调执行及后续行动 阿尔巴尼亚、阿根廷、澳大利亚、巴哈马、比利时、巴西、保加利亚、佛得角、加拿大、智利、科特迪瓦、克罗地亚、捷克、丹麦、吉布提、多米尼加共和国、赤道几内亚、爱沙尼亚，斐济，芬兰，法国，格鲁吉亚，德国，希腊，爱尔兰，以色列，意大利，日本，约旦，肯尼亚，利比里亚，卢森堡，马尔代夫，黑ft，摩洛哥，荷兰（王国），新西兰，北马其顿，秘鲁，大韩民国 ，罗马尼亚，塞尔维亚，塞拉利昂，新加坡，斯洛伐克，斯洛文尼亚，南非，西班牙，瑞典，蒂尔基耶，阿拉伯联合酋长国，大不列颠及北爱尔兰联合王国，美利坚合众国：乌兹别克斯坦和赞比亚。* 决议草案 抓住安全可靠的人工智能系统的机遇，实现可持续发展 大会, 重申国际法，特别是《联合国宪章》，并回顾《世界人权宣言》，1 又重申其2015年9月25日题为“改变我们的世界：2030年可持续发展议程”的第70/1号决议、关于第三次发展筹资问题国际会议亚的斯亚贝巴行动议程的2015年7月27日第69/313号决议，2023年9月29日第78/1号决议附件所载可持续发展问题高级别政治论坛通过的政治宣言。 回顾其2023年7月25日关于快速技术变革对实现可持续发展目标和具体目标的影响的第 77/320号决议，2023年12月19日关于信息和通信技术促进可持续发展的第78/132号决议， 2023年12月19日关于科学、技术和创新促进可持续发展的第78/213号决议，2023年12月19 日 *对提案国名单的任何更改将反映在会议的正式记录中。 1第217A(III)号决议。 24-04670(E)180324 关于在数字技术背景下促进和保护人权，关于数字时代隐私权的2022年12月15日第77/211号 决议，关于全面审查信息社会世界首脑会议成果执行情况的2015年12月16日第70/125号决议 ，信息社会世界首脑会议的所有成果，包括《日内瓦原则宣言》、2《日内瓦行动计划》、3《 突尼斯承诺》4和《突尼斯信息社会议程》5以及2020年9月21日第75/1号决议所载的纪念联合国成立七十五周年宣言。 注意到国际电信联盟与40个联合国机构合作，努力召开人工智能促进良好平台，包括其年度首脑会议和国际电信联盟人工智能知识库的启动，以确定负责任和实际的人工智能应用，以推进可持续发展目标；科学及文化组织2021年11月23日关于人工智能伦理的建议，6其实施计划 ，包括准备情况评估方法和伦理影响评估以及全球人工智能伦理论坛；以及注意到《工商业与人权指导原则：执行联合国“保护，尊重和补救”框架》，7，人权理事会在其2011年6月16日关于联合国人权事务高级专员办事处工作的第17/4号决议中认可，8； 又注意到联合国秘书长题为“数字合作路线图”的报告,9以及设立秘书长技术问题特使办公室,以协调该报告的执行,并注意到秘书长设立多利益攸关方人工智能问题高级别咨询机构及其2023年12月21日发布的临时报告,并期待其最终报告。 认识到安全、可靠和值得信赖的人工智能系统——就本决议而言，是指非军事领域的人工智能系统，其生命周期包括以下阶段:预设计、设计、开发、评估、测试、部署、使用、销售、采购、运营和退役；它们以人类为中心、可靠、可解释、符合道德、包容、充分尊重、促进和保护人权和国际法、保护隐私、面向可持续发展和负责任——有潜力加速和促进实现所有17个可持续发展目标的进展，在其三个方面促进人类权利的数字中心，并促进人类的可持续 2见A/C.2/59/3，附件。 3同上。 4见A/60/687。 5同上。 6联合国教育、科学及文化组织，《大会记录，第四十一届会议，2021年11月9日至24日，巴黎》，第一卷，《决议》，附件七。 7A/HRC/17/31，附件。 8见《大会正式记录，第六十六届会议，补编第53号》(A/66/53)，第三章，A节。 9A/74/821。 还认识到人工智能系统的不当或恶意设计，开发，部署和使用，例如没有适当的保障措施或以不符合国际法的方式，构成可能阻碍实现《2030年可持续发展议程》及其可持续发展目标取得进展的风险，并在经济、社会和环境三个方面破坏可持续发展；扩大国家之间和国家内部的数字鸿沟；加剧结构性不平等和偏见；导致歧视；破坏信息完整性和获取信息的机会；削弱保护 、促进和享有人权和基本自由的权利，包括不受非法或任意干涉个人隐私行为者的恶意威胁的权利；增加潜在复合风险。 还认识到人工智能系统的设计、开发、部署和使用的迅速加速以及技术的迅速变化，及其对加速实现可持续发展目标的潜在影响，因此强调就安全、可靠和可信赖的人工智能系统达成全球共识的紧迫性;促进包容性国际合作，以制定和使用有效的、可在国际上相互操作的保障措施、做法和标准，以促进创新，防止安全、可靠和可信赖的人工智能系统的治理分裂，并认识到现有的人工智能和其他数字鸿沟，以及国家之间和国家内部的技术发展水平不同，发展中国家在跟上这种快速加速发展方面面临独特的挑战 还认识到人工智能系统的治理是一个不断发展的领域，需要继续讨论适当的可能治理方法 ，基于国际法，可互操作，敏捷，适应性，包容性，响应发达国家和发展中国家的不同需求和能力，并随着技术和我们对技术的理解的发展而造福所有人。 1.决心弥合国家之间和国家内部的人工智能和其他数字鸿沟； 2.决心促进安全、可靠和值得信赖的人工智能系统，以加快全面实现《2030年可持续发展议程》10的进展，进一步弥合国家之间和国家内部的人工智能和其他数字鸿沟；并强调需要安全和值得信赖的人工智能系统，以促进而不是阻碍数字化转型和公平获取其利益，以实现所有17个可持续发展目标和可持续发展三个方面——经济、社会和环境——并应对其他共同的全球挑战，特别是对发展中国家而言； 3.鼓励会员国，并邀请所有区域和国家的多方利益攸关方，在各自的作用和职责范围内，包括 10第70/1号决议。 私营部门、国际和区域组织、民间社会、国际研究机构、学术界和研究机构以及技术团体和个人，制定和支持与安全有关的监管和治理方法和框架，安全和值得信赖的人工智能系统，在各级建立有利的生态系统，包括创新、创业和以共同商定的条件传播知识和技术，认识到政府和多方利益攸关方之间有效的伙伴关系和合作对于制定此类方法和框架是必要的； 4.呼吁会员国并邀请其他利益攸关方采取行动，与发展中国家合作并向其提供援助，以实现包容性和公平地获得数字转型和安全，可靠和可信赖的人工智能系统的好处，包括： (a)扩大所有国家，特别是发展中国家对数字转型的参与，以利用利益并有效参与开发，部署和使用安全，安全和值得信赖的人工智能系统，包括通过与人工智能系统有关的能力建设，认识到促进知识共享活动和以共同商定的条件转让技术是能力建设的一个重要方面，强调需要消除人工智能和其他数字鸿沟；并提高数字素养； (b)通过加强伙伴关系，加强数字基础设施的连通性和技术创新的获取，帮助发展中国家有效参与人工智能系统的整个生命周期，加快人工智能系统对社会的包容性和积极贡献。包括全面实现2030年议程及其可持续发展目标，同时确保世界各地的人工智能系统在其整个生命周期中都是安全，可靠和值得信赖的。 (c)增强发展中国家，特别是最不发达国家的能力，以消除主要的结构性障碍和障碍，以获取新兴技术和人工智能创新的好处，以实现所有17个可持续发展目标，包括通过扩大使用科学资源、负担得起的技术、研究和开发，包括通过加强伙伴关系； (d)旨在增加对可持续发展目标相关研究和创新的资金，这些研究和创新涉及数字技术和安全、可靠和值得信赖的人工智能系统，并在所有地区和国家建设能力，为这项研究做出贡献并从中受益； (e)使国际创新环境能够增强发展中国家发展技术专长和能力、利用数据和计算资源的能力，和国家监管和治理方法，框架和采购能力，并在各级为基于安全，可靠和可信赖的人工智能系统的解决方案创造包容性的有利环境； (f)根据发展中国家的国家需求、政策和优先事项，紧急调动实施手段，如按照共同商定的条件进行技术转让、缩小人工智能和其他数字鸿沟的能力建设、向发展中国家提供与人工智能系统有关的技术援助和融资； (g)促进获得和设计，开发，部署和使用安全，可靠和可信赖的人工智能系统，以实现经济，社会和环境三个方面的可持续发展； 5.强调必须在人工智能系统的整个生命周期中尊重、保护和促进人权和基本自由，呼吁所有会员国，在适用的情况下，其他利益攸关方避免或停止使用不可能按照国际人权法运行或对享受人权构成不应有风险的人工智能系统，特别是那些处于弱势地位的人，并重申人们在线下拥有的相同权利也必须在线受到保护，包括在人工智能系统的整个生命周期内； 6.鼓励所有会员国酌情根据其国家优先事项和情况，并在实施其独特的国家监管和治理方法和框架的同时，在适用的情况下，其他利益攸关方以包容和公平的方式促进安全、有保障和值得信赖的人工智能系统，造福所有人，并为此类系统创造有利环境，以应对世界上最大的挑战 ，包括在经济、社会和环境三个层面实现可持续发展，并具体考虑发展中国家，不放过任何人： (a)促进制定和实施符合各自国家和适用的国家以下各级的国内监管和治理方法和框架，国际法规定的政策和优先事项和义务，以支持负责任和包容性的人工智能创新和投资促进可持续发展，同时促进安全、可靠和值得信赖的人工智能系统。 (b)鼓励采取有效措施，促进在设计和开发期间以及在部署和使用人工智能系统之前对漏洞和风险进行国际互操作识别、分类、评估、测试、预防和缓解的创新； (c)鼓励纳入反馈机制,以便最终用户和第三方能够根据证据发现和报告技术漏洞,并酌情发现和报告人工智能系统的滥用情况,以及在开发、测试和部署人工智能事件后解决这些问题; (d)提高公众对适当民用人工智能系统的核心功能、能力、限制和领域的认识和理解； (e)促进开发、实施和披露风险监测和管理机制，保护数据的机制，包括个人数据保护和隐私政策，以及在人工智能系统生命周期中酌情进行影响评估； (f)加强对制定和实施有效保障措施的投资，包括实物安全、人工智能系统安全和人工智能系统整个生命周期的风险管理； (g)鼓励开发和部署有效、可访问、适应性强、可在国际上互操作的技术工具、标准或做法，包括可靠的内容认证和来源机制——如水印或标签，在技术上可行和适当的情况下，使用户能够识别信息操纵，区分或确定真实数字内容和人工智能生成或操纵的数字内容的来源-并提高媒体和信息素养;。 A/78/L.49 (h)促进制定和实施有效的国际互操作框架、做法和标准，以培训和测试人工智能系统，以加强决策并帮助保护个人免受一切形式的歧视，偏见，滥用或其他损害，并避免在人工智能系统的整个生命周期中加强或延续歧视性或偏见的应用和结果，例如，通过分析和减轻数据集中编码的偏见以及以其他方式打击算法歧视和偏见，同时不会无意中或不成比例地影响其他用户和受益者的积极发展，访问和使用； (i)在适当和相关的情况下，鼓励实施适当的保障措施，以尊重知识产权，包括受版权保护的内容，同时促进创新； (j)在测试和评估系统时保护隐私和保护个人数据，以及遵守适用的国际、国家和国家以下法律框架的透明度和报告要求，包括在人工智能系统的整个生命周期中使用个人数据； (k)在制定或支持影响最终用户的决策的人工智能系统的整个生命周期中提高透明度，可预测性，可靠性和可理解性，包括提供通知和解释，并促进人的监督，例如，通过审查自动配对的决策和相关过程，或在适当和相关的情况下，对受到自动决策不利影响的人的决策替代方案或有效的补救和问责人工智能系统； (l)在人工智能系统的整个生命周期中，加强对制定和实施有效保障措施的投资，包括风险和影响评估，以保护行使和减轻对充分和有效享受人权和基本自由的潜在影响； (m)促进促进、保护和维护语