2024年全球人工智能治理研究报告

全球人工智能治理研究报告 上海社会科学院武汉大学 同济大学 中国现代国际关系研究院中国信息通信研究院 中国社会科学院世界经济与政治研究所北京邮电大学 北京航空航天大学北京理工大学 中国人民公安大学中国政法大学 复旦大学 南京邮电大学浙江师范大学伏羲智库 联合发起 前言 人工智能技术是新一轮科技革命和产业变革最具代表性的颠覆性技术，给人类社会带来巨大发展机遇的同时，也带来了诸多全球性挑战。人工智能技术的普及应用已惠及医疗、教育、交通、农业、工业、金融、文化、生态等诸多领域的发展；与此同时，人工智能的误用、滥用和恶用已危及个体、群体、社会、生态以及价值规范等不同层面的安全。2022年生成式人工智能技术取得突破性进展以来，新一轮全球人工智能治理浪潮席卷世界。 在此背景下，上海社会科学院、武汉大学、同济大学、中国现代国际关系研究院、中国信息通信研究院、中国社会科学院世界经济与政治研究所、北京邮电大学、北京航空航天大学、北京理工大学、中国人民公安大学、中国政法大学等中国智库和高校的专家围绕全球人工智能治理的基本现状、主要议题和体系建设等问题展开了研究。本报告中的“全球人工智能治理”，是指国际组织、各国政府、科技公司、非政府组织等行为体为实现人工智能在全球的安全发展与和平利用而共同制定共同实施一系列原则、规范、标准、政策、法律和制度的协作过程。需要指出的是，关于人工智能技术在军事领域的应用问题有独立的国际规制进程，本研究 报告不涉及为军事目的开发或使用人工智能的全球治理进程。 目录 前言I 一、全球人工智能治理现状1 （一）多边平台的进展1 （二）多方机制的成果2 （三）相关国家/地区的做法3 （四）科技企业的实践5 二、全球人工智能治理的十大重要议题6 （一）国家主权原则和人工智能发展6 （二）社会变革和可持续发展6 （三）技术创新和产业发展7 （四）人机情感和生命伦理8 （五）内容安全风险8 （六）模型算法安全风险8 （七）数据安全和隐私保护9 （八）产品责任和风险9 （九）知识产权保护10 （十）智能鸿沟和国际协作10 三、构建完善全球人工智能治理体系11 （一）目标宗旨11 （二）原则共识11 1.尊重国家主权11 2.统筹发展和安全11 3.坚持平等互利普惠12 （三）行动路径12 1.坚持以人为本12 2.坚守智能向善12 3.赋能千行百业12 4.防范应对安全风险13 5.加强国际合作能力建设13 6.完善全球治理机制14 附录：近年来全球人工智能治理重要文件概览16 一、全球人工智能治理现状 1956年，达特茅斯会议正式确定了“人工智能”术语，开辟了人工智能科学的独立研究。此后，人工智能发展经历了数次起伏，并于上世纪九十年代取得了一定突破。1997年深蓝超级计算机战胜国际象棋世界冠军，它不仅引起了公众对于技术未来的思考，也促进了国际社会关于人工智能伦理的早期讨论。 随着人工智能技术向机器学习、强化学习、深度学习等方向演进，2016年AlphaGo战胜围棋世界冠军成为标志性事件，全球人工智能治理迈入制定原则方针的探索阶段。如2016年，电气电子工程师学会提出《人工智能的道德准则设计》，为自主和智能系统的设计和开发提供指引；2017年，全球行业领袖发起《阿西洛马人工智能原则》，提出技术发展“有益于人类”的守则等。 2022年以来，ChatGPT问世并风靡全球，加速推动人工智能从“小模型+判别式”向“大模型+生成式”转变，加强全球人工智能治理的呼声和行动也全面兴起。 （一）多边平台的进展 多边治理进程是全球人工智能治理的主要渠道，是推动国际社会在人工智能相关领域达成普遍共识的关键。 联合国在全球人工智能治理上发挥了重要引领作用。 2023年，联合国秘书长安东尼·古特雷斯宣布成立人工智 能高级别咨询机构，这一机构在2024年发布了《为人类治理人工智能》最终报告，提出了加强全球合作的行动方案。2024年，联合国大会通过了《加强人工智能能力建设国际合作》《抓住安全、可靠和值得信赖的人工智能系统带来的机遇，促进可持续发展》两项决议，有力促进了人工智能国际合作；联合国未来峰会通过《全球数字契约》，提出“加强人工智能国际治理，造福人类”的目标，授权联合国设立人工智能国际科学小组和人工智能治理全球对话等机制。 此外，联合国框架下的多个机构也取得了进展。教科文组织提出的伦理框架已得到了50多个国家积极参与；国际电信联盟连续七年举办人工智能向善全球峰会，已成为全球人工智能交流对话的重要平台。 政府间组织也将全球人工智能治理纳入讨论议程，并取得了相应成果。二十国集团在2023年新德里峰会重申了“以人为本，实现人工智能向善并服务全人类”的观点；金砖国家在2022年同意成立人工智能研究组，意在加强人工智能技术研发、标准制定、产业应用等领域务实合作；经济合作与发展组织等也更新了相关建议书。 （二）多方机制的成果 多方机制在技术标准、伦理规范等领域积极推动发展负责任的人工智能开发与应用。 电气电子工程师学会、国际标准化组织和国际电工委员 会等技术社群发布了人工智能前沿技术标准、人工智能设计的伦理准则、人工智能系统管理指南等。2023年，电气电子工程师学会推出了免费获取人工智能伦理和治理标准的计划；国际标准化组织发布的《信息技术人工智能管理体系》（ISO/IEC42001）则为各类组织管理人工智能提供了框架。 此外，一些国际组织和会议论坛也在该领域加快行动。2023年，世界经济论坛成立了人工智能治理联盟，提出负责任地开发、开放创新和国际合作等建议；世界互联网大会人工智能工作组发布了《发展负责任的生成式人工智能研究报告及共识文件》，致力于推动发展负责任的人工智能。2024年，全球移动通信系统协会推出《负责任的人工智能成熟度路线图》，可帮助通信企业评估其负责任的人工智能成熟度水平。 （三）相关国家/地区的做法 相关国家和地区基于不同的政治文化、产业发展和目标诉求等因素提出了各具特点的治理方案。 中国遵循习近平主席提出的“坚持以人为本、智能向善”的理念和宗旨，统筹人工智能发展和安全，取得了积极进展。2023年，中国提出《全球人工智能治理倡议》，围绕人工智能发展、安全、治理三方面系统阐述了人工智能治理中国方案；国家互联网信息办公室等七部门联合公布《生成式人 工智能服务管理暂行办法》，此部立法系全球首部生成式人工智能专门立法。2024年，世界人工智能大会发布《人工智能全球治理上海宣言》，呼吁全球共同推动人工智能健康可持续发展；中国在第19届联合国大会期间发布《人工智能能力建设普惠计划》，倡议成立“人工智能能力建设国际合作之友小组”，提出“五大愿景”“十项行动”；中国全国网络安全标准化技术委员会发布《人工智能安全治理框架》1.0版。 美国强调创新发展，发布《关于安全、可靠和值得信赖地开发和使用人工智能的行政命令》等多部政策文件，加大对人工智能创新生态的资金、人才等支持，并在人工智能风险管理上引导建立最佳实践和标准，同时对先进芯片等实施出口管制，以维持美国在人工智能领域中的领先地位。 欧盟注重人工智能监管立法，相继制定出台人工智能相关战略、宣言、计划、指南等文件，特别是在2024年率先推出了《人工智能法》，积极引领人工智能全球治理。 英国将人工智能视为提升其全球影响力的机遇，发布 《国家人工智能战略》文件，采取“支持创新”的监管方式，2023年举办首届全球人工智能安全峰会并推动签署首个人工智能安全国际性声明——《布莱切利宣言》。 发展中国家也在积极行动。肯尼亚将人工智能和区块链视为“关键的经济和商业支持技术”，2024年推出了《信 息技术-人工智能-人工智能应用实践守则》；埃及2019年组建国家人工智能委员会，相继发布《国家人工智能战略》等文件；哈萨克斯坦2024年发布《2024-2029年人工智能发展构想（草案）》，加快构建本国人工智能生态系统。 （四）科技企业的实践 大型科技企业在技术、产业和市场领域具有优势，也是参与制定和推进落实全球人工智能规则的主要载体。 在组织建设层面，科技企业不仅设立了内部伦理委员会，还推出了企业人工智能原则，涵盖对社会有益、安全、保护隐私、公平、透明、可解释、可控、负责任等内涵。 在产业实践层面，科技企业在提升人工智能系统的安全性和稳健性、保护数据隐私、提升透明度、提高可解释性、保障公平包容、确保价值对齐、开展内容安全审核等方面提供了解决方案。 在国际合作层面，20家科技企业在慕尼黑安全会议上宣布，将联合打击深度伪造信息，努力检测和抵制欺骗性的人工智能生成内容；16家公司签署《前沿人工智能安全承诺》，承诺实施内外部测试、信息共享、网络安全投资、第三方漏洞报告机制等措施。 总体而言，全球人工智能治理在原则议题上达成了一定的共识。但是，各类机制仍然高度碎片化，在理念细化和方案落实方面存在较多分歧。发达国家在人工智能领域拥有较 多跨国企业，把人工智能议题与自由、民主、人权等议题挂钩，其主导的人工智能治理平台起步较早、影响力较大。相较而言，大多数发展中国家则缺少领先的人工智能科技企业，更多关注能力建设、智能鸿沟等发展议题，在全球治理进程中声势较弱、代表性和话语权不足。尤其是一些国家以意识形态划线，构建排他性集团或制造发展壁垒，阻碍了全球人工智能治理合作。 二、全球人工智能治理的十大重要议题 随着算法模型、算力和数据领域不断取得突破，人工智能技术战略性地位进一步凸显，正在对经济发展、社会进步、地缘政治等方面产生重大而深远的影响。目前，全球人工智能治理已形成十大重要议题。 （一）国家主权原则和人工智能发展 人工智能技术的发展与国家主权问题密切相关。一方面，人工智能技术的战略性发展可用于维护国家主权、安全、发展利益。另一方面，国家主权也面临着来自技术自主性、算法模型、数据、内容、算力、供应链等安全风险的挑战。为此，国际社会已围绕人工智能领域国家主权原则适用性问题、人工智能时代国家主权的内涵和外延变化以及如何维护国家主权、安全和发展利益等展开相关探讨。 （二）社会变革和可持续发展 人工智能技术在赋能社会经济发展的同时，也对原有社 会秩序带来了冲击。发展性议题包括如何利用人工智能技术帮助传统产业转型升级，提高生产效率，赋能智慧医疗，智慧教育和智慧城市建设，创造新的就业机会，助力推动经济社会发展绿色化、低碳化等；约束性议题包括人工智能训练和运行需要大量的计算资源和能源对环境造成的负担问题，人工智能在化学、生物、核能等领域给人类社会带来的安全风险问题，以及人工智能技术发展导致的结构性失业问题等。 （三）技术创新和产业发展 加快发展人工智能是事关能否抓住新一轮科技革命和产业变革机遇的战略问题。相关讨论包括：人工智能的技术研发，即如何发展人工智能前沿基础理论、关键共性技术、提升智能化水平；人工智能的算力问题，即如何加快部署算力基础设施，优化布局算力资源，高效分配和合理使用算力促进技术和产业发展；人工智能的创新应用，即如何将创新成果转化为各领域新的生产力；人工智能的产业政策，即如何利用体制、机制、资金、人才等各类资源来发展人工智能；人工智能的标准制定，即如何形成开发、部署和使用人工智能的行业标准；人工智能的产业链和供应链安全，即如何避免人工智能发展所需的先进芯片、关键软件等成为少数国家开展地缘政治博弈的工具，确保人工智能产业链供应链在最大限度嵌入全球分工体系的同时，增强抗风险的安全能力和 韧性。 （四）人机情感和生命伦理 人工智能技术可能引发根本性的伦理问题，危及人类自身生存和发展。全球各界主要关注以下议题：人机交互中的情感依附探讨，即如何应对在人机交互中出现的情感错觉，避免人际关系疏离与系统沉迷；人工智能决策的伦理抉择与道德判断问题，即如何制定人工智能伦理规则，避免人工智能失控或对人类生命、权利和利益造成损害；人工智能带来的结构性影响，即可能颠覆就业观、生育观、教育观等问题。 （五）内容安全风险 滥用人工智能技术生成错误、虚假信息等