全球人工智能治理现状、议题与体系建设
一、全球人工智能治理现状
人工智能技术作为新一轮科技革命和产业变革的代表性颠覆性技术，在带来发展机遇的同时也引发全球性挑战。2022年生成式人工智能技术的突破加速了全球人工智能治理浪潮的兴起。
多边平台的进展
- 联合国发挥引领作用，成立人工智能高级别咨询机构，发布《为人类治理人工智能》报告，通过相关决议，推动国际合作。
- 联合国框架下多个机构取得进展，如教科文组织伦理框架获50多国参与，国际电信联盟举办人工智能向善全球峰会。
- 政府间组织如二十国集团、金砖国家、经济合作与发展组织等也积极推动相关讨论和成果。
多方机制的成果
- 技术社群发布人工智能前沿技术标准、伦理准则、系统管理指南等，如电气电子工程师学会推出免费获取伦理和治理标准的计划。
- 国际组织和会议论坛加快行动，如世界经济论坛成立人工智能治理联盟，世界互联网大会发布相关研究报告及共识文件。
相关国家/地区的做法
- 中国提出《全球人工智能治理倡议》，发布《生成式人工智能服务管理暂行办法》，推动人工智能全球治理上海宣言等。
- 美国强调创新发展，发布相关行政命令，加大对创新生态的支持，并在风险管理上引导建立最佳实践和标准。
- 欧盟注重监管立法，率先推出《人工智能法》，引领全球治理。
- 英国采取“支持创新”的监管方式，举办全球人工智能安全峰会，推动签署《布莱切利宣言》。
- 发展中国家如肯尼亚、埃及、哈萨克斯坦等也积极推出相关战略和计划。
科技企业的实践
- 科技企业设立内部伦理委员会，推出企业人工智能原则，涵盖社会有益、安全、保护隐私等内涵。
- 在产业实践层面，提供提升人工智能系统安全性和稳健性、保护数据隐私等解决方案。
- 在国际合作层面，联合打击深度伪造信息，签署《前沿人工智能安全承诺》等。
二、全球人工智能治理的十大重要议题
1. 国家主权原则和人工智能发展
- 人工智能技术与国家主权密切相关，涉及技术自主性、算法模型、数据等安全风险挑战。
2. 社会变革和可持续发展
- 讨论如何利用人工智能赋能社会经济发展，同时应对环境负担、安全风险和结构性失业等问题。
3. 技术创新和产业发展
- 涉及技术研发、算力问题、创新应用、产业政策、标准制定、产业链和供应链安全等。
4. 人机情感和生命伦理
- 关注人机交互中的情感依附、人工智能决策的伦理抉择、人工智能带来的结构性影响等。
5. 内容安全风险
- 涉及大模型生成“幻觉”内容、深度伪造技术操纵舆论、智能算法推荐加剧“信息茧房”等。
6. 模型算法安全风险
- 关注模型算法的可解释性、可靠性、鲁棒性、公正性、抗攻击性等。
7. 数据安全和隐私保护
- 涉及数据收集和使用中的隐私保护、数据训练中的数据质量、数据处理中的数据泄露等。
8. 产品责任和风险
- 涉及人工智能产品的设计者、运营者、生产者、使用者等责任归属问题。
9. 知识产权保护
10. 智能鸿沟和国际协作
三、构建完善全球人工智能治理体系
目标宗旨
- 加强信息交流和技术合作，形成共识框架和标准规范，提升人工智能技术的安全性、可靠性、可控性、公平性，促进技术造福人类，推动构建人类命运共同体。
原则共识
- 尊重国家主权
- 统筹发展和安全
- 坚持平等互利普惠
行动路径
- 坚持以人为本
- 坚守智能向善
- 赋能千行百业
- 防范应对安全风险
- 加强国际合作能力建设
- 完善全球治理机制
总结
全球人工智能治理是一个长期过程，涉及国际社会各行为体的共同参与。应积极推动建立人工智能治理机制，支持联合国发挥主渠道作用，加强南北合作和南南合作，提升发展中国家的代表性和发言权，形成具有广泛共识的治理框架和标准规范。各国政府、科技界、产业界等应携手合作，推动人工智能健康发展，维护人工智能安全，赋能人类共同的未来，推动构建人类命运共同体。
