广岛进程先进人工智能系统国际指导原则

这份研报阐述了旨在推广安全、可靠和值得信赖的先进AI系统的国际指导原则，适用于包括学术界、民间社会、私营部门和公众在内的各类组织。报告基于经合组织人工智能原则，针对高级AI系统（如基础模型和生成式AI）的最新发展提出建议，以应对其带来的机遇与风险。

报告强调，这些原则应贯穿高级AI系统的设计、开发、部署和使用全过程，并呼吁各组织与利益攸关方协商实施，同时政府应制定更持久和详细的治理与监管方法。核心原则包括：

1. 风险管理：在AI生命周期中识别、评估和减轻风险，采用内部和外部测试措施，并实施缓解措施。
2. 监控与响应：监控部署后的误用模式，采取行动应对漏洞、事件和新风险，并鼓励第三方和用户报告问题。
3. 透明度：公开AI系统的能力、局限性和适用范围，发布透明度报告，确保信息清晰易懂。
4. 负责任的信息共享：与行业、政府、民间社会和学术界合作，共享安全风险、能力评估等信息。
5. 治理与风险管理：制定并披露基于风险的方法的AI治理和风险管理政策，包括隐私保护和缓解措施。
6. 安全控制：投资和实施强大的安全措施，包括物理安全、网络安全和内部威胁防护。
7. 内容认证：开发可靠的内容认证和来源机制，如水印或其他技术，帮助用户识别AI生成内容。
8. 研究与投资：优先研究以减轻社会、安全和安保风险，投资于有效的缓解措施。
9. 社会价值：优先发展AI以解决全球性挑战（如气候变化、全球卫生和教育），支持数字扫盲计划。
10. 国际标准：推动发展并利用国际技术标准，如水印和使用标准发展组织（SDO）的最佳实践。
11. 数据保护：实施适当的数据输入措施和知识产权保护，管理数据质量，减轻有害偏见，并遵守法律框架。

报告还重申，各国应遵守国际人权法，私营部门活动应与《联合国工商业指导原则》等国际框架保持一致。组织在利用创新机会的同时，应尊重法治、人权、正当程序、多样性、公平和不歧视、民主和人本主义价值观，避免以破坏方式开发或部署AI系统。