本报告系统回顾了全球人工智能安全与治理体系的当前探索和实践，确定了需要解决的关键问题，并借鉴了其他全球领域多边治理的经验。报告以机制设计为中心，探讨如何构建一个保障安全、促进包容性、明确责任与问责、强化有效协调、确保权威和高效治理的全球人工智能安全与治理体系。在多边主义原则和构建人类命运共同体的愿景指导下，报告提出了建立以联合国为中心的全球人工智能安全与治理框架的机构措施和政策建议。
人工智能发展现状与风险
- 人工智能技术正以指数速度发展，深刻重塑全球科技、经济、安全和安全格局。
- 人工智能的广泛应用带来了一系列不可预见的风险和复杂挑战，如算法的快速迭代和能力跃升暴露的安全漏洞，以及人工智能的广泛应用带来的计算能力安全、供应链脆弱性和跨境技术等问题。
- 全球人工智能安全和治理体系正显现出分裂的迹象，各国在发展水平、治理能力和治理优先事项上的差异，为国际合作设置了障碍。
- 近年来，全球记录的人工智能风险事件数量从2019年的约400起飙升至2024年超过7900起，增长近20倍。
全球人工智能安全与治理的努力与实践
- 全球利益相关者通过多方面和协调一致的努力，共同推进全球人工智能安全与治理框架的建设。
- 联合国体系、各国政府、国际组织、企业、研究机构和公民社会等都在积极构建治理体系，通过发布战略文件和行动倡议、制定法律法规、发布标准和指南等方式，推动人工智能的负责任发展和应用。
- 学术界和业界也积极探讨风险应对机制，推动自我监管和自主性。
全球人工智能安全与治理框架的关键挑战
- 如何有效减轻AI技术安全风险及其衍生风险的不确定性，确保全球具备充分的准备能力和应对能力。
- 如何平衡处于不同发展阶段国家之间的差距，确保各国在人工智能的开发和应用上享有平等权益。
- 如何协调不同人工智能利益相关者之间的复杂互动，构建协同效应，防止造成治理空白的混乱。
- 如何克服由地缘政治和意识形态引起的分裂，逐步建立一个权威且有效的全球人工智能安全和治理体系。
构建全球人工智能安全与治理框架的建议
- 建立以联合国为中心的全球人工智能安全与治理框架，整合现有治理资源，推动跨机构协调，提升实施能力。
- 建立技术跟踪和风险预警的协作机制，共同提升对新兴和潜在风险的共享科学理解和预警能力。
- 建立跨境内容治理的协作体系，推动数字水印、内容认证等追踪技术的国际标准协调。
- 完善跨境执法合作机制，建设人工智能安全和安全威胁信息共享网络，推动跨国调查程序和电子证据保存标准化。
- 建立强大而权威的合规审查和监督机制，定期评估并公开评价各国和国际组织在规则遵守、政策实施和发展援助方面的承诺。
- 建立全面高效的风险评估和信息共享机制，形成一个动态的、全链条的预警网络。
- 建立高效、权威的跨国争端调解和仲裁程序，为政府、企业、研究机构和公众之间的争端解决提供具有约束力的渠道。
- 积极推动国际标准认可和监管协调，促进在关键领域如安全评估、数据治理和伦理审查等方面发展兼容且相互认可的规范框架。
- 建立国际动态评估和与声誉挂钩的合规机制，持续评估国家参与与遵守情况，将评估结果与国际声誉挂钩。
- 建立实用有效的国际合作机制，推动能力建设、知识分享，以及资源支持，以开发开放的国家和地区。
- 建立长期能力建设合作机制，提供大规模协助，培养发展中国家的AI治理和创新能力。
- 建立差异化的责任共担机制，根据各国的发展水平、技术能力和治理基础，分配责任。
结论
建立全球人工智能安全与治理框架是确保人工智能可持续发展的关键任务。国际社会应秉持多边主义原则，以联合国为核心，加强合作，共同构建一个平衡安全、发展、公平和包容性的全球人工智能治理体系，促进人工智能在造福人类共同福祉和长期安全方面的应用。
