人工智能时代的儿童安全与福祉：最佳实践与激励措施

核心观点

• 儿童福祉是首要目标： 研报强调，儿童在使用人工智能 (AI) 时，其福祉应被视为首要目标，而不仅仅是避免安全事件。这意味着在儿童接触 AI 之前，应尽量减少可预见的风险，并确保安全措施与年龄、环境和系统功能相称。
• 最佳实践： 研报提出了七项最佳实践，以帮助 AI 系统的设计者和使用者支持儿童的福祉：
  • 设计安全、年龄和发展： 从一开始就将安全嵌入 AI 系统，并根据儿童的年龄和发展阶段进行调整。
  • 促进有益的使用，同时保留人类的判断力和人际关系： 确保 AI 增强而不是取代人类互动和指导。
  • 防止有害内容、行为和互动： 包括儿童性剥削和 AI 介导的操纵，并采取零容忍态度。
  • 保护隐私、尊严和知情理解： 限制数据收集，并提供清晰易懂的解释。
  • 加强学习、复原力和批判性思维： 设计能够培养 AI 素养和批判性思维的教育和通用 AI 系统。
  • 建立问责制、人类监督、补救措施和持续改进： 明确责任，并提供儿童友好的补救措施。
  • 推进包容性、参与和共同责任： 确保所有儿童都能从 AI 中受益，并让儿童参与 AI 系统的设计和治理。
• 激励措施： 研报认为，除了监管之外，还需要一系列激励措施来促使组织采取行动。这些措施包括：
  • 建立可执行的基础和响应式监督： 设定明确的安全标准，并进行有效监督。
  • 使可信的安全绩效可见且可比较： 公开安全报告和评估结果。
  • 通过采购和分销创造需求： 将负责任的做法作为采购 AI 系统的条件。
  • 降低实施成本： 通过共享基础设施和专业知识来支持组织。
  • 为政府行动提供激励和能力： 政府应投资于 AI 专业知识，并建立跨部门合作机制。
  • 使早期披露和负责任测试比隐瞒更安全： 建立保密渠道，并提供对善意的测试和披露的保护。
  • 改变组织内部的激励机制： 将领导力问责制、预算和晋升与儿童影响结果联系起来。
  • 跨 AI 价值链对齐激励： 通过合同、许可证和平台规则来明确责任。

研究结论

• 没有单一的行动者能够确保儿童的福祉： 需要开发者、使用者、政府、教育工作者、家长和儿童本身的共同努力。
• 最佳实践需要激励措施来支持： 只有当负责任的做法成为理性的选择时，才能实现儿童安全的 AI 时代。