在线服务的运营报告 ： 拟议的框架

工作纸 MAy2023 运营报告 通过在线服务：拟议的框架 萨曼莎·赖、娜奥米·希曼和艾丽西娅·万利斯 运营报告 通过在线服务：拟议的框架 萨曼莎·赖、娜奥米·希曼和艾丽西娅·万利斯 ©2023卡内基国际和平基金会。保留所有权利。 卡内基在公共政策问题上不采取机构立场；本文所代表的观点是那些作者(S)的观点，不一定要反映卡内基、其sta或其受托人的观点。 不得以任何形式或任何方式复制或传播本出版物的任何部分卡内基国际和平基金会的书面许可。请直接询问： 卡内基国际和平基金会出版部 1779马萨诸塞州大道西北 Washington,DC20036 P:+12024837600 F:+12024831840 CarnegieEndowment.org 可在CarnegieEndowment.org上免费下载。 Contents Introduction1 导向灯3 IntheLight:OperationalReportingCategories5 后续步骤21 附件1：八类运营报告23 关于作者31 Notes33 卡内基国际和平基金会37 Introduction 大科技公司的不透明运营往往掩盖了社交媒体公司的角色-Nies在塑造信息环境方面发挥了作用，以及他们采取的行动减轻有害行为。呼吁更多的透明度和平台 进行报告，以提供他们如何进行操作的洞察力。1然而，这些 callsonlyhighingspecificcitemsratherthansuggestbroadchange.Manycallsarefocused 关于政治广告、虚假信息、虐待儿童和剥削材料等主题，或社交媒体平台上的极端主义内容。2 增加了这种复杂性，世界各地的政府越来越多地探索监管，因为引入和执行透明度报告的工具。3因此，一些内部- 国家公司可能会面临来自数十个国家的新规则。 Operationalchallengesforcompanies.Itwouldalsoleadtodifffferingandpiecealreporting 跨问题领域的做法，而不是促进数据、政策、和行动在信息环境的背景下，这是人类的空间机器处理信息以理解世界，以及其中的在线服务提供者控制一个重要方面。 研究人员、政策制定者和民间社会团体需要走到一起澄清自己和平台哪种类型的信息最有助于保护 公共利益以及什么框架可以确保这些信息对平台是可行的 11 提供的是政策提案建议了八个潜在的报告类别 使研究人员和政策制定者能够更好地了解在线服务提供商 操作。它借鉴了对九十八项提案，十一项法规或政府的审查政策、现有的透明度做法以及为期一年的专家工作组。4 从广义上讲，这八类业务报告是： 1.用户级别：不同类型用户的汇总信息。 2.平台级别：平台架构和平台如何工作。 3.政策制定和执行：管理活动和使用的内部政策平台的(例如，内容审核策略)。 4.内部研究：公司内部进行的研究的类型和结果了解对用户和干预措施的影响。 5.外部干预请求：第三方向平台提出的采取行动的请求 用户、帐户或一段内容(例如，用户标记的内容、内容删除请求、账户暂停请求)。 6.数据访问请求和工具：来自第三方的访问请求 用户或用户组的个人信息(例如，执法请求、法院订单)和为方便访问数据而创建的工具。 7.服务条款和隐私政策：服务条款是指双方之间的协议 公司和用户规范服务的使用。隐私政策是一项声明 它披露了公司如何以及何时收集、使用和共享用户信息。是通常与第三方服务共享的信息。 8.IRD-party关系：公司和第三方机构之间的安排-zations定期访问用户数据。5 ere是对拟议报告框架的一些关键警告。首先，详细程度 报告应该在受众之间进行区分，因为某些类别的报告包括敏感的如果向公众提供可能被滥用的内容。第二，拟议的 框架概述了各种可能的报告类别，但进一步认识到 需要确定优先级，为平台逐步扩展建立一条现实可行的路径他们报告的信息。第三，运营报告只是过程的一部分。 为了确保信任和合法性，必须建立一个独立的审计机构来审查平台报告的准确性。 正如这里所提出的那样，报告中的细节水平比其他许多方面都要高- dustriesprovides.Mostotherindustriesdonothavesuchdidentfferentialtreatmentofuserson 个人层面，但金融业除外，这是一个经过严格审计的行业此外，鉴于信息环境在人类决策中的作用， 民主国家内的公民需要为以下方面做出自由和明智的决定- 政治制度的合法性，以及在线服务日益重要的地位 所有这些，要求该部门提高透明度并不是不合理的。 事实上，这里概述的一些报告正在整个科技行业变得常态化。例如，其中一位合著者工作的Meta监督委员会帮助Meta 中等程度地披露其风险评估过程、组织结构图、决策- ING结构，以及其政策如何随着时间的推移而变化。6Meta的社区标准现在包括这些社区标准的历史版本，以便用户可以看到它们 随着时间的推移而进化。7为此，本文提出了一种理想的运营报告，但要理解的是，这些建议不可能全部被采纳 但即使是阐明框架的行为也可以帮助塑造向前发展的规范。 导向灯 就本文而言，运营报告是“聚合的公共、半公共 以及通过在线私人报告定量和定性数据（而不是个人用户数据）有关其运营方面的服务，定期和一致地发布。“8 虽然它可以旨在提高透明度，但不应混淆运营报告政府的透明度报告旨在加强对公民的问责 在民主国家(例如，政府披露平台如何用于公民surveillance).9运营报告也不同于其他概念，如数据访问、通过各种方式为研究目的提供原始数据。 科技行业现有的运营报告主要作为 选择性自律措施。公司确定的方法、范围和内容 报告，这导致披露adhoc，不标准化，可能包含偏见或遗漏，如某些地区的数据。10 最常见的透明度报告类型包括访问请求 信息,11内容和账户删除，12以及执行社区标准。13 其他行业报告包括对特定c的协调不真实行为的分析 平台,14互联网中断，15应用程序删除，16以及查看的内容类型由用户。17将公司的透明度整合在一起可能是时间 消耗，要求研究人员浏览一系列数据发布，新闻声明，充分结构化的透明度中心，并在一定范围内进行综合报告 时间框架和格式。报告之间的数据并不明确地相互关联，使得 dišculttogetacomprehensivepictureevenforasingleplatform.Reportsareoftenbroken 在没有明确解释主题之间的关系的情况下，如 内容删除或信息请求，并在不同的博客文章中发布，尽管公司已经开始将报告汇总到透明度中心。18 为了帮助纠正报告中的这些de相关性，已经采用了更结构化的方法建议。报告制度，如欧盟委员会的业务守则 虚假信息与经济合作与发展组织的 (经合组织)自愿透明度报告框架已经实施。19e 数字服务法案（DSA）在欧盟确立了新的透明度义务 (EU).20英国在线安全法案继续通过议会， 授权英国监管机构OfCom要求提供年度透明度报告公司。21有待美国立法，如数字服务监督和安全 2022年法案，平台问责制和消费者透明度法案，平台问责制和透明度法案，以及算法司法和在线平台 透明度法案也反映了人们对提高平台透明度的普遍要求。22 这些人要求提高透明度，以提高对重要公共利益的认识。然而，每一个新的自愿报告机制和条例都可以引入新的 详细的报告形式，如果不在司法管辖区和主题之间协调，可能会导致对那些有义务遵守的组织的实施挑战。 让研究人员、政策制定者和民间社会团体澄清行动的目的报告-不仅仅是向利益相关者通报组织的运营情况- 可以改进报告的准备和最终使用。帮助组织思考 报告要求，我们描述了八种潜在的信息类别以及它们的原因 都很重要。下面列出了一些类别，并简要说明了每个类别的内容类别包括，为什么应该报告，以及相关的挑战，以及特定的c指导此类报告的问题。 走进光明：运营报告类别 类别1：用户级别 用户级报告的指导性问题 Denition：用户级报告是指有关不同类型用户的汇总信息。 1.按用户类别划分的细分报告： a.个人账户 b.个人账户收款 c.组织/企业 2.按用户类别划分的用户信息的细分报告。包括以下信息： a.人口统计（如年龄、性别、地点） b.心理学（如兴趣） 3.按用户类别划分的用户活动分段报告。包括以下信息： a.公开帖子、评论和参与的内容类型 b.发布模式，例如用户发布和共享的位置 c.网络用户表单 d.购买广告的用户： i.哪些类型的用户购买的广告类型 ii.他们的目标是谁 iii.在什么语言和地理位置，以及何时 4.Whatservicesareavailable(e.g.,makingpublic/privateposts,purchasingads,setuppublic/ 私人团体)？ a.用户可以用这些服务做什么？ b.这些服务有哪些语言？ c.随着平台用户群的增长，他们在扩展方面的发展途径是什么可用语言? 用户级别的运营报告揭示了谁正在访问特定的在线 服务。用户级别的报告需要定量和定性信息的混合， 提供对用户群、他们可以访问的服务种类以及他们如何参与的洞察这些服务。 关于用户的标准化和一致的报告可以帮助提供对本质的见解特定的c信息生态系统。例如，了解高级人口统计 例如，在一个国家/地区中，在线服务中用户的年龄组、性别和位置描绘了该信息生态系统的图片。随着时间的推移，这些信息可以提供 在线行为的有用基线测量，以识别模式和更改。用户- 水平报告可以帮助研究人员将虚假信息等现象置于上下文中，因为例如，能够交叉引用有关暴露的总人数的披露 到由在线服务中断的活动，其中包含有关整体受众规模和 Compositions.However,user-levelreportingmustbekeptbroadenoughtonotdivelge 有关特定c用户的特定c数据。此类别中不包括个人身份数据。 出于报告目的，用户可以分为三大类：个人帐户， 个人账户的集合(例如，在uence操作的上下文中，其中一组帐户可能具有相似的特征，例如属于同一Facebook 例如，集团并从事类似行为，包括集体报告 其他人的滥用帐户将其暂停)，以及组织或企业，每个单独报告。e区分对于解决规模和重新问题很重要 责任。例如，串联操作的个人账户集合和 作为一个实体运营的企业更有可能使用该服务来影响受众与个人用户相比，他们更有可能使用该服务与朋友联系或娱乐。对用户信息的报告包括广泛的人口统计， 关于用户群体共同利益的心理信息，提供给 用户、SigniCant网络编队和活动，如发布的内容类型。 e用户级类别还包括广告报告，因为广告商通常必须 创建一个用户帐户，以便在平台上做广告。报告用户的广告活动将包括目标受众的详细信息以及广告的内容- 组织本身，以更好地了解广告商在中希望的是谁，在广泛的用户组作为受众的术语。 类别2：平台级 平台级报告的指导性问题 Denition：平台级报告是指平台架构和平台如何工作。 1.平台或在线服务向用户推荐内容的表面是什么？ 2.这些算法的组织原理是什么？每个算法在一个联锁 设置优化，以及系统作为一个整体优化的目的是什么(例如，参与、花费在一个表面，内容质量，点击，其他)？ 3.该平台对影响和意外后果有哪些内部研究 算法的(s)？为了优化目标，平台做了什么交易在第2点概述？ a.该平台是如何缓解以前出现的风险和外部性的描述了内部研究？ 4.哪些指标用于衡量面向用户的算法的准确性和影响？ a.一般来说，对面向用户的推荐器算法的更改如何影响 虚假信息和有害内容，和/或激励用户的不良行为？ b.算法针对哪些类型的删除内容进行了优化？ 5.面向用户的推荐器算法的开发、实现、和验证? a.谁参与了面向用户的推荐器算法的决策过程开发、实施和验证？ b.什么指导决策来开发面向用