数字安全设计干预和创新工具包 ： 在线危害的类型学

世界经济论坛数字安全设计干预和创新工具包：在线危害的类型学

执行摘要

本报告旨在提供一种通用语言，促进多利益相关方和跨司法管辖区讨论推进数字安全。报告采用“三C”框架（内容、接触、行为）涵盖广泛终端用户面临的在线安全风险，并将危害分为几类：

• 个人和社区安全威胁：如儿童剥削、极端主义内容
• 健康损害：如促进自杀或不健康饮食的内容
• 侵犯尊严和隐私：如欺凌、骚扰、肉弹威胁和基于图像的虐待
• 欺骗和操纵：如虚假信息和操控媒体

报告强调平衡不同权利的重要性，承认所有类型的在线危害都有可能非法剥夺个人参与和表达的权利。报告不旨在提供适用于所有情境下的精确定义，也不寻求对损害的严重程度进行评级。

在线危害的类型

报告将在线危害分为三大类，每类下包含具体危害类型：

1. 对个人和社区安全的威胁

• 儿童性虐待材料（CSAM）
• 儿童性剥削材料（CSEM）
• 支持恐怖的材料
• 提倡暴力或煽动暴力内容
• 招募或激进化内容

2. 对健康和福祉的危害

• 促进自杀或自我伤害的内容
• 促进无序饮食的内容
• 暴力技术促进滥用（TFA）
• 性勒索
• 儿童接触色情制品

3. 仇恨和歧视

• 歧视性语言和攻击
• 基于个人或群体固有/受保护特征（如宗教、种族等）的攻击
• 儿童接触色情制品

4. 侵犯隐私

• Doxxing（故意曝光个人详细信息）
• 基于图像的滥用（如性勒索）
• 儿童接触色情制品

5. 侵犯尊严

• 网络欺凌和骚扰
• Doxxing
• 基于图像的虐待

6. 欺骗和操纵

• 虚假信息和错误信息
• 欺骗性合成媒体
• 网络钓鱼
• Catfishing（冒充他人）
• 诈骗
• 操纵和利用他人

结论

在线危害的类型学提供了一个全面的理解框架，通过人权镜头审视各种类型的在线伤害。该分类法在识别在线危害中发挥着关键作用，并为多利益相关方讨论提供基础术语，促进制定有效应对在线危害并降低相关风险的政策和干预措施。报告承认在线安全的复杂性，通过将威胁分为内容风险、接触风险和行为风险进行分类。尽管该分类为理解在线危害提供了基础，但元宇宙、Web3和生成式AI等新兴技术可能导致新的危害形式出现或加剧现有危害。联盟将考虑创建一个概念框架，以确保对在线危害的处理方法具有前瞻性。

附录：资源

报告附录列出了相关资源和参考文件，包括国际组织、政府机构、非政府组织的研究报告和政策文件等。