组织开发先进 AI 系统的国际指导原则草案

这份征求意见稿旨在推广安全、可靠和值得信赖的人工智能，特别是针对开发高级AI系统的组织，如基础模型和生成AI。该指导原则基于经合组织人工智能原则，适用于所有AI参与者，涵盖高级AI系统的设计、开发、部署和使用。

核心观点包括：

1. 国际合作与参与：鼓励来自学术界、民间社会、私营部门和公共部门的组织参与原则制定，并期待与经合组织、GPAI等利益攸关方合作，引入监测工具和责任机制。
2. 尊重法治与人权：强调在高级AI系统的设计、开发和部署中，应尊重法治、人权、正当程序、多样性、公平和不歧视、民主和人本中心。
3. 风险管理：要求组织在高级AI的发展过程中采取适当措施，识别、评估和减轻风险，包括内部和外部测试、漏洞识别与缓解、事件监控等。
4. 透明度与报告：要求组织公开报告高级AI系统的能力、局限性和领域适当和不适当的使用，发布透明度报告，并支持内部文档流程。
5. 负责任的信息共享：鼓励组织在政府、民间社会和学术界之间负责任地分享信息，包括安全风险、能力信息等。
6. AI治理与风险管理：要求组织开发、实施和披露AI治理和风险管理政策，包括隐私政策、缓解措施等，并建立问责制和治理流程。
7. 安全控制：要求组织投资并实施强大的安全控制，包括物理安全、网络安全和内部威胁防护。
8. 内容身份验证：要求开发和部署可靠的内容身份验证和来源机制，如水印或其他技术，使用户能够识别AI生成的内容。
9. 研究与投资：优先考虑研究以减轻社会、安全和安保风险，并投资于有效的缓解措施。
10. 解决全球挑战：优先发展先进的人工智能系统以解决世界最大的挑战，如气候危机、全球卫生和教育，支持联合国可持续发展目标。
11. 国际标准与技术：推动发展和采用适当的国际技术标准，包括水印和国际SDO。
12. 数据控制与审计：实施适当的数据输入控制和审计，确保个人数据、受知识产权保护的内容等得到妥善处理。

不同司法管辖区可采取独特方法实施这些原则，政府应发展更持久和/或详细的治理和监管方法。组织应支持发展有效的监督机制，并提供最佳实践。