2025 年 AI 翻车事故(AI 事件) ： 强制报告制度的关键因素研究报告

核心观点

本研报定义了一套标准化的关键组件，用于收集关键的人工智能事件数据，作为强制性报告模板。这些组件包括事件类型、危害的性质和严重程度、技术数据、受影响的实体和个人，以及事件发生的背景和情境。

关键数据和研究结论

• 事件类型：研报建议记录两种类型的事件：事故和未遂事件（险近事件）。
• 危害维度：危害类型包括物理、环境、经济或财务、声誉、公共利益、人权和基本权利以及心理等方面的影响。危害机制分为技术因素（如系统漏洞、模型漂移）和其他因素（如治理薄弱、用户误用）。
• 严重性因素：包括事件的影响程度、暴露人口规模、持续时间等。
• 技术数据：包括AI系统和AI模型卡片以及数据表，提供关于AI系统、模型和训练数据的关键详情。
• 背景、情境和利益相关方：包括AI模型或系统的用途、AI部署的行业、事件的时间范围、地点、报告实体或个人，以及任何现有的防护措施。
• 事件后数据：包括事件响应说明、缓解、终止等，以及伦理影响评估。

政策建议

• 发布AI事件报告格式：基于关键组件发布AI事件报告格式，并建立一个独立的调查机构，以揭露可能在报告时不易立即辨识的信息。
• 建立独立调查机构：类似于国家运输安全委员会的角色，以进一步调查重大人工智能事故，并揭示在报告时可能不易察觉的信息。

总结

通过实施强制性AI事故报告制度，并采用标准化的关键组件，可以促进AI事件的一贯数据收集，推动AI事件的追踪、监控、研究和信息共享，提高对AI相关危害和风险的认识，并确保收集关键的AI事件数据以防止报告缺口。这将有助于增强AI的安全性和安全性措施，并推动安全、可靠和可信赖的人工智能系统的开发与部署。