技术联盟对灯笼计划的人权影响评估

技术联盟对灯笼计划的人权影响评估 2023年11月 BSR技术联盟人权影响评估2 Acknowledgements BSR和技术联盟希望感谢参加此评估的所有技术联盟员工，成员，权利持有人和利益相关者。 免责声明: 本文档中提供的结论代表了BSR的最佳专业判断，基于截至审核日期的可用信息和现有条件。在执行其分配时，BSR依赖于公开可用的信息，Twitch提供的信息以及第三方提供的信息。因此，本文档中的结论仅在向BSR提供或可获得的信息准确和完整的情况下有效，并且结论的强度和准确性可能会受到BSR不了解的事实，数据和背景的影响。因此，本文档中引用的事实或结论不应被视为审核，认证或任何形式的资格。本文件不构成也不能作为任何形式的法律建议，也不能被视为对法律或法规合规性的详尽审查。BSR不代表-。 本文档中表达的观点不反映BSR成员公司的观点。 目录 1.执行摘要3 2.导言10 3.方法12 4.灯笼计划概述19 5.关键观察23 6.灯笼计划对人权的影响31 7.建议46 BSR技术联盟人权影响评估3 1 执行摘要 Introduction 技术联盟委托BSR对灯笼计划进行人权影响评估（HRIA），这是一项新的信号共享计划，将使技术公司能够发送和接收与在线儿童性剥削和性虐待（OCSEA）相关的在线标识符或指标（“信号”）。 灯笼计划的建立是为了解决OCSEA的跨平台性质，并通过支持公司解决OCSEA相关危害的努力来保护儿童权利。但是，公司使用跨平台信号共享计划可能会对人权产生意想不到的不利影响，例如隐私，非歧视和言论自由。此HRIA的目标是： •确定并优先考虑技术联盟通过灯笼计划参与的人权影响，包括风险和机遇，以及受影响的弱势群体。 •建议技术联盟和计划参与者采取适当行动，以解决这些影响（即避免，预防，减轻和补救）。 Methodology BSR在2023年4月至8月间采用了基于联合国工商业与人权指导原则（UNGPs）的方法，包括考虑建立联合国工商业与人权指导原则的各种人权原则，标准和方法，以及儿童权利和商业原则（CRBP）。 与联合国一般服务方案一致，本评估中人权影响的优先次序是基于对人民的风险而不是对企业的风险。 本HRIA借鉴了严重程度（定义为范围，规模和可补救性）和可能性的人权概念，以告知影响的优先次序： •Scope-受伤害影响的人数。 •Scale-对受影响者造成伤害的严重性。 •可补救性-补救办法在多大程度上将受影响者恢复到损害前的相同或同等地位。 •可能性-未来五年内发生不利人权影响的可能性和/或频率。可能性评估中涉及的因素包括影响是否（或频率如何 ）发生在过去或今天，类似情况的公司是否（或频率如何）参与了类似的影响，以及影响是否已经预见在评估研究期间，包括在讨论未来趋势期间。 该HRIA为技术联盟提出了建议，以利用UNGPs原则19中包含的因素来解决不利的人权影响： •归因-技术联盟与人权影响的联系有多紧密？ ›造成的影响-技术联盟应采取必要步骤停止或防止影响。 ›促成了影响技术联盟应采取必要步骤停止或阻止其贡献，并利用其杠杆作用最大程度地减轻任何剩余的影响。 ›通过其业务关系产生的产品、服务或运营直接与其影响挂钩-技术联盟应根据对有关实体的杠杆作用程度和滥用的严重程度等因素来确定行动。 •杠杆-技术联盟必须有多大的能力来影响“导致”或“促成”伤害的实体的错误做法的变化？技术联盟必须有多大的能力来寻求修改或挑战错误做法？技术联盟如何增加影响力？ 关键观察 BSR对人权影响的分析以及解决这些影响的适当行动受到以下意见的影响： •灯笼计划有可能填补该行业儿童安全和保护方法的关键空白。目前，科技公司主要通过个人行为解决OCSEA风险；然而，研究表明，OCSEA肇事者越来越多地在多个平台上运作。犯罪的这种跨平台性质需要采取协作方法。通过满足这一关键需求，灯笼计划旨在帮助公司解决与其平台相关的一些最严重的不利人权影响。 •通过灯笼计划收集的见解对于打击OCSEA和保护数字权利的更广泛努力是有价值的。OCSEA的趋势在不断变化 ，利益相关者可能会发现很难跟上犯罪的所有变化和演变方式。通过识别和传播与OCSEA相关的趋势和见解，灯笼计划可以成为利益相关者的宝贵资源（例如Procedre民间社会、公司、政策制定者、学者)致力于在全球范围内打击OCSEA。 •公司之间的信号共享可能会加剧个别公司与OCSEA作斗争的努力中存在的某些人权风险，例如与言论自由有关的风险（例如Procedre，通过内容的过度审核)或隐私(例如Procedre，通过过宽数据共享或监控)。灯笼计划的跨平台性质也可能导致累积影响，因为多家公司以对人权产生不利影响的方式对信号采取行动。 •人权风险和/或挑战可能由多种因素引起，包括： 未经证实的信号（即，当公司错误地将用户或内容识别为潜在有害并在Lantern数据库上共享相关信号时）；政府要求或参与灯笼计划； 对某些类型的OCSEA相关行为缺乏明确或标准化的定义，如修饰，以及相关的范围蔓延风险； 处理边缘案件（例如，合法但有害的内容）或灰色区域（例如，自我生成的明确图像或对等犯罪）的公司政策或执法流程的差异； >与年龄确定、保证和验证相关的挑战； 新技术的发展，如扩散模型和生成人工智能，使合成的儿童性虐待材料（CSAM）的创建和分发。 •儿童与数字环境的互动以及对其数字权利的相关影响在不断演变。例如，他们对自我生成的显式图像的经验和态度正在迅速变化，并且在该领域缺乏关于此类在线行为如何影响儿童发展和数字权利的深入研究。这可能会给在线平台带来挑战，以按比例解决风险并赋予儿童在数字环境中享受权利的能力。 •参与者对灯笼计划的参与程度差异很大，主要是由于资源限制，例如内容审核能力有限以及公司内容治理方法之间的哲学差异。例如，尽管大多数参与者对通过Later数据库共享的信号进行手动检查和验证，但其他人可能会自动采取行动信号，而无需验证其平台上的违规内容或行为。 •通过促进跨行业知识共享，Later计划可以作为小型技术公司的关键资源，这些公司的能力有限，无法识别和调查其平台上发生的所有OCSEA风险或危害。虽然信号共享可以帮助公司优先考虑内容，但公司仍然需要专用资源来操作信号并有效地使用灯笼计划。 •法律框架可能会使灯笼计划的自愿行动精神复杂化。尽管灯笼计划是一项自愿计划，参与者没有义务进行任何节制活动，但法律框架可能会给参与者施加压力，要求他们对收到的所有信号采取行动，这可能会阻止参与者充分参与灯笼计划或导致他们自动采取行动。 •与灯笼计划相关的责任和责任在技术联盟和参与公司之间共享。每个参与公司都对他们如何共享和使用信号作为计划的一部分负责，并对与使用信号相关的风险负责。另一方面，技术联盟负责将 采取适当的措施和缓解措施，以激励并使参与者能够适当地使用灯笼计划，并在不使用的情况下识别和采取行动 。 •透明度是技术联盟灯笼计划治理方法的重要组成部分，它本身就是一项重要的风险缓解措施。缺乏透明度可能会限制灯笼计划的有效性，并导致利益相关者的怀疑。另一方面，透明度也可能带来风险-例如，通过吸引政府和执法部门强迫技术联盟或参与公司共享用户信息。 人权影响 灯笼计划寻求解决的人权影响 该HRIA确定了与灯笼计划相关的人权风险，并就如何解决这些风险提出了建议。但是，必须认识到灯笼计划解决了与 OCSEA相关的现有不利人权影响。 OCSEA是与技术公司相关的最严重的已知不利人权影响之一。 2022年，国家失踪和受剥削儿童中心（NCMEC）收到了超过3200万份报告，其中包含约8800万张涉嫌儿童性剥削的图像和视频。在过去五年中，针对儿童的在线美容犯罪增加了82％，有关在线勒索的报告在2023年几乎增加了两倍。 OCSEA通常会对受害者和幸存者造成严重的身体，情感和心理上的不利影响，儿童由于身心不成熟而成为弱势群体。这些不利影响可能会持续下去，并在虐待事件结束后持续很长时间，使补救措施尤其具有挑战性。 灯笼计划旨在提高技术行业对抗OCSEA的能力，从而解决该行业中存在的最严重的已知危害之一。 灯笼计划帮助公司履行其责任，以解决已经与之相关的不利人权影响，并将大大增加其有效做到这一点的影响力。 BSR确定了以下八类人权，这些人权可能会受到使用灯笼计划的影响。其中一些类别将多个人权组合在一起。 •儿童安全与保护：灯笼计划旨在通过建立有效的程序来识别，预防和减轻对数字平台上儿童安全的威胁，从而促进儿童享有免受性虐待和性剥削的权利。 •儿童的公民、社会、文化权利和自由：虽然灯笼计划的主要目的是保护儿童免受在线性剥削和性虐待，但灯笼计划中信息的收集、使用和共享存在风险，以及参与者根据信号采取的行动，可能会对儿童享有公民权利和自由的能力产生不利影响，如获取信息、隐私、言论自由、思想自由或参与文化生活。 •隐私:Lantern数据库中共享的信号可能包括有关用户的个人身份信息，例如电子邮件地址或帐户名。如果参与者以导致对用户隐私，家庭，家庭或通信的任意干扰的方式使用或共享数据，则该计划可能与隐私风险相关。 •言论自由：尽管灯笼计划的目标是与儿童性剥削或性虐待有关的内容或言论，但由于参与者的过度监管，合法或非侵权内容可能会被错误删除，和/或用户被错误地拒绝访问在线平台，在这些平台上，他们可以行使自由表达和访问信息的权利。 •平等与非歧视：由于社会偏见，某些团体或社区可能面临被错误指控OCSEA的更大风险，并受到调查或惩罚性行动（例如Procedre，针对LGBTQIA+人或性工作者)，或者内容审核工具可能无法对某些群体执行准确的操作(例如Procedre，有色人种)和语言。灯笼计划可以通过设置护栏和与更广泛的领域分享见解来主动解决这些偏见和 歧视性做法。 •正当程序和有效补救措施：当参与者根据灯笼计划数据库中共享的信号采取行动时，这可能导致内容被删除，用户帐户被删除 删除或标记为监控。在这种情况下，用户可能会因平台以外的行为或行动而受到处罚，并且可能无法为上诉或投诉提供有效或可访问的机制。 •身体安全:根据灯笼计划中共享的信号采取的行动可能会错误地对用户造成离线伤害，例如任意逮捕，拘留或侵犯用户，特别是如果信号与政府共享并被滥用或执法机构。 •经济、社会和文化权利：数字平台已成为社会，文化和经济生活不可或缺的一部分，包括促进工作和教育以及参与文化生活。如果由于数据库中共享的信号而错误地拒绝用户访问平台，则灯笼计划可能会对用户享有这些权利的能力产生不利影响。 灯笼计划可以通过多种方式影响上述八类人权。在BSR的分析中，可能导致人权影响的主要途径是： •数据收集、存储和共享：作为信号共享计划的一部分的数据的收集、存储和共享可能与对用户的权利(包括隐私权 )的不利影响相关联。 •信号的作用：参与者可以基于灯笼数据库中的信号采取的各种行动,诸如错误账户删除、内容过度节制或不遵守灯笼计划准则,可能不利地影响用户的权利。 •政府参与：政府和执法机构可能试图直接或间接访问灯笼数据库，或以对用户权利产生不利影响的方式影响参与者对灯笼计划的使用。 •对儿童的意外后果：尽管灯笼计划旨在促进儿童的安全和保护权利，但使用该数据库可能会对儿童产生意想不到的后果，对他们的权利产生不利影响。 技术联盟应特别注意可能面临脆弱性或边缘化风险的群体或人群中的个人。这些包括： 1.OCSEA的实际和潜在受害者：虽然所有儿童都可能是OCSEA的受害者，但有些儿童面临特别的风险，包括 LGBTQIA+儿童、无家可归的儿童或被照料的儿童以及智障儿童。 2.用户受到打击OCSEA的努力的不利影响：虽然技术平台的所有用户都面临风险，但某些弱势群体面临被错误指控OCSEA的更大风险。此外，被错误指控OCSEA可能会对某些弱势群体产生更严重的影响，包括LGBTQIA+人、性工作者、智障人士、有