数字安全全球原则：为数字环境翻译国际人权（英）

全球原则数字安全:翻译国际人权的数字环境 WHITEPPER JNURY2023 图片:盖蒂图片社 内容 前言3 介绍4 1公民社会的作用5 2共同原则5 3政府额外的原则5 4在线服务提供商的附加原则6 5前进7 附录:数字安全资源8 贡献者9 免责声明本文发表的 世界经济论坛是一个贡献一个项目,了解区域或交互。结果,解释和 结论表示这是一个结果的帮助和协作过程 了世界经济论坛的支持但其结果不一定 代表世界经济的观点 论坛,也不是其成员的整体, 合作伙伴或其他利益相关者。 ©2023世界经济论坛。所有权利保留。没有这个出版物的一部分被复制或以任何形式传播 或通过任何方式,包括复印和记录,或任何信息 存储和检索系统。 2023年1月全球数字安全原则:翻译国际人权 数字化背景下 前言 数字的增长和规模的连通性给国际社会带来好处,但是 互联网需要一个安全的和安全的所有的空间。 考特尼格雷戈勒数字安全总监微软 伊恩•德伦南执行董事, WeProtect全球联盟 凯蒂李MinosBantourakis 头,塑造未来的媒体、娱乐和 运动,世界经济论坛 超过50亿人使用互联网的原则是强化的结果 项目领导,全球联盟数字安全、世界经济论坛 在全球范围内。有关有害安全挑战内容和行为造成的糟糕的演员, 包括儿童性剥削等问题 和虐待,暴力极端主义和恐怖主义,讨厌演讲、自残和自杀和mis-和说 信息，可以在数字世界中放大。需要采取紧急行动来减少潜在的伤害所有人,强调社会的 大多数弱势群体,包括孩子。 世界经济论坛的全球联盟 数字安全将多元化的群体聚集在一起领导人加快公私合作 应对有害内容,开展在线。联盟合作的成员 制定全球数字安全原则，为了回答的基本问题: “人权应该如何翻译在数字 世界？这些原则旨在推进数字安全 以尊重人权的方式，推动多利益相关方对齐,使积极的行为和 数字生态系统的行为。 讨论、专家访谈和咨询 在多元化的全球专家群体中，包括决策者、主要的社会媒体和科技平台、安全科技公司、公民社会组织和学者。他们建立 现有的国际人权原则和框架和应用到数字安全(见 附录：数字安全资源概述）。 这些原则的目的是作为一个 数字生态系统中所有利益相关者指南推进数字安全通知和 促进监管、行业和社会的努力和创新。他们认识到的关键角色由政府、网络服务提供商 和公民社会,并提供一个框架应用在线rights-respecting方法安全在一个活动,从监管 产品开发。至关重要的是，这些原则还鼓励更深入的协作和合作, 认识到我们都有责任提供帮助 构建一个安全、有益和创新的数字世界。 介绍 互联网连接和在线服务 在启用和授权一个关键的角色个人享受他们的人权。 数字服务经济的核心,教育、社会和政治事务 全球。的确,互联网连接和在线服务在实现和 授权个人享受他们的人 的权利。确保每个人都能安全地进行在线对于促进健康社会至关重要，支持实现基本权利和 产生信任一个开放的、全球互联网。 国际社会 基本权利和自由的普遍 《人权宣言》和其他基础契约,如国际契约 关于公民权利和政治权利。诸如联合国的指导原则 和人权也建立一个共享了解私人行为者负责 尊重人权，除此之外，还可以发挥在促进人权方面发挥积极作用。然而共同构建规范的过程如何 政府和服务提供者可以应用评估和评估的国际人权框架 解决与数字生态系统相关的风险是仍在进行中。全球数字安全原则旨在建立的框架 工作,是为了支持政府 和网络服务提供商在推进数字化安全通过多方参与的方法。 数字安全既是一个预期的结果和一个 不断发展的纪律。从根本上说，数字安全是预防和减少伤害,包括 通过调节违法或有害内容 或行为,推动负责任的平台设计授权和治理,或者设计工具 用户定制他们的在线体验。伤害可以高度本地或上下文相关:独特的 在不同的国家或地区可能出现的风险 或不同的社区。……很重要。承认数字安全要求 一个复杂的讨论范围,平衡 法律、政策、伦理、社会和技术考虑。数字必须安全决策 植根于国际人权框架。 现有的法律和人权原则认识到基本人权 是不可分割的;对这些权利的限制可接受的只有满足某些条件。 任何行动来创建一个更安全的数字生态系统应该rights-respecting方法和 确保决策的原则 的必要性、比例和合法性。 这些全球数字安全原则建立在一系列努力，以明确基于权利和数字安全多方参与的方法。 他们一直在的背景下开发的重大监管发展和通知 通过广泛的利益相关者磋商。1 数字安全挑战是加剧了 在广泛的流动性和体积的活动, 相互关联的数字生态系统。有害的行为是很少局限于一个单一的平台,和完全理解伤害的光谱 有效地减轻他们需要多样化观点在决策过程中。 原理内容-和技术 中性的。他们是足够 灵活的适应快速发展的性质技术和景观和威胁 以确保行动解决危害比例的上下文。 这些原则适用于决策 次:从产品或政策《盗梦空间》,通过一切照旧，在危机时期。 1.虽然已经制定了一系列更针对特定主题的方法，但没有一套单一的原则提供指导推进数字安全可能需要的全套决策。请参阅附录：数字安全资源了解更多信息完整清单，但现有原则包括：《打击在线儿童性虐待和剥削自愿原则》; 克赖斯特彻奇呼吁：消除网上的恐怖主义和暴力极端主义内容;圣克拉拉原则;澳大利亚人电子安全专员安全设计原则;数字信任和安全伙伴关系的最佳实践;等等。 1公民社会的作用 公民社会推进数字是至关重要的安全:真正的多方参与的方法 没有积极参与是不可能的从民间社会团体和观点了解数字生态系统对 他们服务的社区。此外，许多民间社会或非政府组织提供相关的 服务，包括受害者和幸存者支持倡导言论自由，热线，到 提供安全教育或人权影响 评估。民间社会团体也有助于桥公共和私营机构之间的鸿沟 和个人，包括通过放大声音最脆弱的群体，如儿童幸存者 性虐待或儿童。因此，民间社会可以在确保承诺起着至关重要的作用 政府和私营部门得到满足，通过举行这些部门的责任。 2共同的原则 原则的支持者应该:– –与不同的利益相关者 构建一个安全、信任和包容的 环境,使每个人享受– 他们的权利在数字环境。 –寻求洞察力和不同的观点 从公民社会通知决策,– 理解新兴危害和支持包容性和明智的决策数字安全。 支持创新和以证据为基础的多方参与的解决方案评估,地址和推进数字安全,防止伤害。 推进透明度的方法,的结果,努力推进数字安全改善集体反应。 识别特定的帮助的重要性 弱势群体和边缘化群体实现其数字世界中的权利，包括重要性捍卫儿童的在线安全和隐私。 3额外的原则对政府 支持政府应该考虑以下原则: –为了优先考虑人权为基础,循证和数据驱动的方法数字安全决策,包括: –进行多方参与识别问题和磋商 在开始的一个可能的解决方案政策过程 –为创新和维护空间实验实现安全的结果 –非法内容和区分 内容合法,但是这可能是有害的,区分适用的任何监管措施 因此每个类别,包括: –适当的描述之间的政府的角色和责任政府实体和网上服务提供商 –确保可靠的,以证据为基础的 公平研究通知政策–为行业提供的灵活性开发适当的系统和流程 –进行影响评估 理解他们的公民的需要和潜在的后果 立法,包括脆弱的和 边缘化群体和那些可能在网上不成比例的伤害 他们的服务,而剩下的内范围的法律和国际人类权利框架 –拥抱人权为基础的方法数字安全: –准确地定义和反映的角色和责任,所有实体 层的互联网基础设施关系到数字安全 –鼓励在线服务提供商承担人权尽职调查理解他们的风险 明确定义的危害 –采取适当的授权提供者和比例的缓解措施 –确保法律和政策尊重和保护所有用户的权利,包括驾驶国内监管一致性和激励 国内监管机构之间的合作（包括在隐私、安全性和安全部门)。 –为了评价新政策的影响监管措施,包括有效性的措施来减少伤害,理解 任何意想不到的后果和拥抱持续改进和创新。 这样的评价,应该是透明的可预测的,并整合广泛的多方参与的反馈。 应用在线和人权推进共享的理解网络伤害问题 –鼓励和认可多方参与合作建立共享的框架,系统和统一的协议跨越国界,同时尊重国家主权 –支持适当的和有效的法律过程,使调查, 和司法系统响应,非法的在线内容或行为。 –支持虐待的受害者和幸存者或伤害,包括促进访问权 正义和资源根据需求 –支持一个自由、开放和互操作 互联网，包括通过参与国际活动： –保护和促进全球自由流动的信息,确保经济 和互联网和社会效益相关数字技术继续 蓬勃发展和支持联合国可持续发展发展目标 –参与多方参与,多边环境支持 4在线服务提供商的其他原则 支持性在线服务提供商应考虑以下原则: –致力于尊重人权 责任,在联合国的指导在商业和人权原则 通过一个明确的声明或政策和常规 弱势群体(如儿童、妇女、 LGBTQI、记者或土著社区),确保他们的观点和需要通知决策。 –寻求投资于预防伤害 和教育,其中包括采取行动促进包容性社会,增加数字安全素养、提高媒介素养技能和教育社区 数字公民。 –提供清晰和透明 服务的数字安全方法，包括公开提供的透明度, 服务的社区标准或其他条款服务的流程和系统 减轻对滥用和数据结果。 尽职调查和信息披露。–建立一个维权行动的理由 ,包括: –建立必要的基础设施和框架中嵌入数字安全业务。 –投资和嵌入一个和多个学科相关的安全的设计在整个方法 业务生命周期的产品和服务,包括授权用户通过提供工具,定制经验的方法和资源， 帮助他们维护自己和伤害报告。 –开发和维护的政策内容符合国际人权法 和适合的性质和影响伤害,与其他方面的考虑 –始终如一地执行这些政策用行动和量身定做的本质伤害的严重性以及性质服务的 –拥抱创新,和基于风险的证据数字安全方法;例如，通过进行风险评估和实施 定制的和有针对性的政策,技术和操作harm-mitigation措施 结合整体人权方面的考虑识别和利用最佳实践 独特的服务之间的区别。 –寻求理解的重要 相关国家之间的差异,地区和文化 –为用户提供清晰的途径抱怨上诉节制或执行 在适当的地方,并确保决策这样的请求得到及时响应 –确保技术和工具使用推进数字安全维护人类权利,包括平等和权利不歧视,隐私和自由 表达式。例如,这包括裁剪任何应用程序的安全技术 特定的服务通过考虑因素,如:风险的性质和规模;任何潜在的偏见;任何的公共或私人性质通信;用户的期望 服务;工具的准确性;和规模任何必要的人工干预。 –减轻不利影响的潜在风险在员工和其他人员负责减少滥用。 –与其他在线服务提供商合作 分享最佳实践和支持一个更安全网络生态系统。 5前进的道路 原则的支持者奋进号: –建立多方参与的社区中促进对话原则的支持者 在原则和支持者之间的争斗 –做出决定并采取行动一致的原则。 –提高对这些原则的认识 在网络生态系统,包括– 通过积极推广,目标宣传和鼓励 多方参与的采用。 现有的多利益相关方安全工作，以分享学习和促进rights-respecting 网络危害的方法。 分享最佳实践在发展中具有包容性过程促进多方参与的输入, 寻求包括设计流程 从儿童和受害者或观点在线虐待的幸存者。 附录:数字安全资源 这里包括现有原则和框架的列表（并非详尽无遗）。 1.澳大利亚电子安全专员–安全源于设计原则 2.克赖斯特彻奇呼吁：消除网上恐怖主义和暴力极端主义内容 3.欧洲委员会《保护儿童免遭性剥削和性虐待公约》 4.儿童权利公约》 5.2020年格里昂人权对话–数字时代的人权：让数字技术为人权服务 6.全球网络倡议(GNI)原则 7.工商业与人权指导原则（UNGP） 8.《公民权利和政治权利国际公约》 9.《经济、社会、文化权利国际公约》 10.互联网管理论坛(IGF) 11.绿洲联盟–我们数字未来的用户安全标准 12.经济合作与发展组织——透明报道TVEC在线 13.欧安组织——聚焦人工智能和言论自由：政策手册 14.巴黎呼吁–网络空间信任