有效打击虚假信息：循证政策指南(英）

COUNTERING 有效的信息 基于证据的政策指南 乔恩·贝特曼和迪恩·杰克逊 这项研究得到了特殊竞争研究项目的资助。 ©2024卡内基国际和平基金会。保留所有权利。 卡内基在公共政策问题上不采取机构立场;本文所代表的观点是作者的观点，不一定反映卡内基，其工作人员或受托人的观点。 未经卡内基国际和平基金会的书面许可，不得以任何形式或任何方式复制或传播本出版物的任何部分 。请直接查询： 卡内基国际和平基金会出版物部 1779马萨诸塞州大道西北华盛顿,DC20036 P:+12024837600 F:+12024831840 CarnegieEndowment.org 本出版物可在CarnegieEndowment.org上免费下载。 TABLEOFCONTENTS 关于作者v Strategies43 关于作者 乔恩·蝙蝠侠是卡内基国际和平基金会技术和国际事务计划的高级研究员。他的研究领域包括虚假信息，网络运营，人工智能和技术民族主义。贝特曼以前是参谋长联席会议主席约瑟夫 ·F·将军的特别助理。小邓福德.，担任董事长内部智囊团的演讲人和首席战略分析师。他还帮助制定了国防部长办公室的军事网络行动政策，并且是国防情报局的高级情报分析师，在那里他领导的团队负责评估伊朗的内部稳定，高级决策和网络活动。贝特曼毕业于哈佛法学院和约翰霍普金斯大学。 迪恩·杰克逊是公共圈子研究与咨询的负责人，也是民主，媒体和技术方面的专家。2023年 ，他被任命为德克萨斯大学奥斯汀分校的首届技术政策新闻报道研究员和宣传研究实验室的附属研究员。此前，他是调查1月6日美国袭击事件的特别委员会的调查分析师S.卡内基国际和 平基金会影响行动研究人员协会的国会大厦和项目经理。从2013年到2021年，杰克逊在国家民主基金会管理与媒体和技术有关的研究和计划协调活动。他拥有芝加哥大学的国际关系硕士学位和俄亥俄州代顿的赖特州立大学的政治学学士学位。 ACKNOWLEDGMENTS 作者希望感谢WilliamAdler，DaBaer，AlbiBirger，KellyBor，JessicaBradt，DavidBroiatowsi，MoicaBlger，CiaraCartmell，MieCalfield，Tímea，RamaEllr，史蒂文·费尔德斯坦、贝丝·戈德堡、斯蒂芬妮·汉基、贾斯汀·亨德里克斯、毗湿奴·坎南、詹妮弗·卡瓦纳、雷切尔·克莱因菲尔德、萨曼莎·赖、劳拉·利文斯顿、彼得·马蒂斯、塔玛·米特、布伦丹·尼汉、乔治·佩尔·珀科维奇、马丁·里德尔、罗纳德·维勒·维还要感谢约书亚·沙利文的研究，以及阿里·布拉斯，林赛 ·梅兹兰，安朱利·达斯，乔斯林·索利，艾米·梅隆和杰西卡·卡茨的出版物支持。最终报告仅反映了作者的观点。这项研究得到了特殊竞争研究项目的资助。 SUMMARY 人们普遍认为，虚假信息是全球民主国家面临的紧迫挑战。许多政策制定者正在寻求快速，有效的方法来劝阻人们采用和传播错误的信念，这些信念会削弱民主话语并激发暴力或危险的行动。然而，事实证明，虚假信息很难定义，理解和衡量，更不用说解决了。 即使领导者知道他们想要在打击虚假信息方面取得什么成就，他们也很难产生影响，而且往往没有意识到专家通常推荐的政策的有效性知之甚少。政策制定者有时也会关注一些虚假信息难题——包括社交媒体和人工智能(AI)等新技术——而不考虑教育、新闻和政治机构等领域的各种可能回应。 这份报告提供了一个高层次的，有证据的指南，介绍了一些关于民主政府、平台和其他国家如何应对虚假信息的主要建议。它从经验研究和现实世界数据中提取了有关十种不同政策干预措施的核心见解，包括事实检查，外国制裁，算法调整和反消息传递运动。对于每个案例研究，我们的目标是让政策制定者对成功的前景有一个知情的感觉-弥合大多数微薄的科学理解和认为需要采取行动之间的差距。这意味着要回答三个核心问题：对干预措施了解多少？鉴于当前的知识，干预措施看起来有多有效？大规模实施有多容易？ 总体发现 •没有银弹或“最佳”政策选择。本报告中所考虑的干预措施均未得到充分研究，非常有效且易于扩展。相反，大多数干预措施的效用似乎很不确定，并且可能取决于研究 人员才刚刚开始探索的无数因素。例如，社交媒体标签和事实核查的确切措辞和呈现可能非常重要，而反消息传递活动取决于接受受众与可信演讲者的微妙匹配。大胆地声称，任何一项政策都是解决虚假信息的唯一，紧急解决方案，应谨慎对待。 •政策制定者应该设定现实的期望。虚假信息是一种慢性的生物现象，其根源在于复杂的社会、政治和经济结构。它可以看作是由供求力量共同驱动的。在供给方面，有强 大的政治和商业动机促使一些行为者从事、鼓励或容忍欺骗，而在需求方面，心理需求往往会吸引人们相信虚假的叙述。存在可靠的选择来抑制供应和需求，但是技术官僚解决主义仍然对虚假信息有严重的限制。有限的资源，知识，政治意愿，法律权威和公民信任限制了可能的事情，至少在近期到中期。 •民主国家应该采用组合方法来管理不确定性。政策制定者应该像投资者一样行事，追求多元化的反虚假信息努力，同时随着时间的推移学习和重新平衡。健康的政策组合将包括经过充分研究或有效的战术行动（例如事实核查和标记社交媒体内容）。但 这也将涉及对有前途的结构改革（例如支持当地新闻和媒体素养）的更长期，更昂贵的赌注。每一项政策都应该有一个具体的计划来进行持续的重新评估。 •从长远来看，结构性改革值得更多关注。尽管民主国家正在实施许多不同的反虚假信息政策，但过度关注最切实、最直接和最明显的行动。例如，平台，政府和研究人员经常成为头条新闻，宣布发现或破坏外国和其他不真实的在线网络。然而，这些行动虽然有帮助 ，但通常会产生狭隘的影响。相比之下，尽管鼓励对其前景进行研究，但振兴本地新闻业和提高媒体素养（以及其他可能性）的雄心勃勃但进展缓慢的努力却很少受到关注。 •平台和技术不能成为唯一的焦点。研究表明，社交媒体平台有助于以各种方式助长虚假信息-例如，通过鼓励和放大误导性内容的重新推荐算法。然而，数字平台与许多其他在线 和离线力量一起存在，并与之互动。政治精英的言辞，电视等传统媒体上的节目以及在可信赖的社区成员中流传的叙述，都对塑造人们的言论，信仰和行为具有很大的影响力。与此同时，越来越多的数字平台削弱了任何一家公司打击虚假信息的行动的有效性。鉴于许多声音和扩音器的这种相互作用，有效的政策将涉及多个领域的互补行动。 •反对虚假信息并不总是非政治性的。那些致力于减少虚假信息的传播和影响的人通常认为自己是无私的专家和技术专家，他们在政治辩论的斗争之上运作，既不寻求也不 行使政治权力。事实上，删除不真实的社交媒体资产等活动或多或少在政治上是中立的。但是，其他的努力，例如使用讲故事或情感诉求来与叙事和心理层面的错误想法竞争的反消息传递运动，可能很难与传统的政治倡导区分开来。最终，任何机构努力宣布什么是真实的，什么是错误的，并以权力，资源或声望支持这种声明，都意味着对权威的要求，因此可以被视为具有政治意义（和后果）。否认这一现实可能会鼓励过度扩张，或引发反冲，从而加深不信任。 •研究差距无处不在。事实核查的相对稳健的研究提供了关于其他反措施未来研究的可能性和局限性的线索。一方面，专注的努力使研究人员能够验证事实检查作为一种普遍有用的 工具。政策制定者可以有一定的信心，事实核查是值得投资的。另一方面，研究人员已经了解到，事实核查的功效可能会有很大差异，这取决于一系列高度背景性、知之甚少的因素。此外，即使在数百项已发表的事实核查研究之后，仍然存在许多知识差距和方法偏见 。由于事实核查代表了当前有关反虚假信息措施的知识的高水位，因此可以预期，其他措施将需要长期的持续研究-从基础理论到高度应用研究。 •研究是一个不确定结果的世代任务。本报告强调的知识差距可以作为未来研究的路线图。填补这些差距需要的不仅仅是委托个人研究;需要对基础研究基础设施进行重大 投资，如人力资本、数据访问和技术。也就是说，社会科学进展缓慢，它很少能对当前最令人烦恼的问题给出明确的答案。以经济学为例：一百年的研究帮助西方政策制定者遏制（尽管没有消除）萧条，衰退和恐慌-然而经济学家仍然在讨论税收和贸易的重大问题，并且只是在考虑灾难性的气候风险。经济学的混合记录为虚假信息的研究提供了一个清醒的基准，这是一个不太成熟和稳健的领域。 •生成AI将产生复杂的影响，但可能不会改变游戏规则。人工智能的快速发展可能很快会让创建逼真和/或个性化的虚假内容变得更容易和更便宜。即便如此，对社会的净影响仍不清楚。研究表明，人们相信虚假（或真实）信息的意愿通常主要不是由内容的真实感 驱动的。相反，其他因素，如重复，叙事吸引力，感知的权威，群体认同和观众的心态可能更重要。与此同时，对微目标广告的研究——已经高度数据驱动和自动化——让人怀疑个性化消息具有独特的吸引力。生成的人工智能也可以用来对抗虚假信息，而不仅仅是煽动它。例如，精心设计和人类监督的AI系统可以帮助事实检查人员更快地工作。虽然生成AI的长期影响仍然未知，但很明显，虚假信息是一种复杂的社会心理现象，很少可以简化为任何一种技术。 案例研究总结 1.支持地方新闻。有强有力的证据表明，当地新闻媒体，特别是报纸的衰落侵蚀了公民的参与，知识和信任-帮助虚假信息扩散。加强当地新闻业可能有助于阻止或扭转这种趋势，但这尚未得到直接检验。考虑到高质量新闻的费用和行业财务衰退的深度， 成本是一个主要挑战。慈善事业可以提供有针对性的支持，例如用于实验的种子资金 。但长期解决方案可能需要政府干预和/或替代商业模式。这可能包括直接补贴（通过非政府中介机构提供）或间接措施，例如免税和讨价还价权。 表1.案例研究概述1 类型干预 知道多少？它看起来有多 有效？ 它有多容易缩放？ 1.支持当地新闻 谦虚 重要 困难 2.媒介素养教育 重要 重要 困难 3.事实核查 重要 谦虚 谦虚 4.给社交媒体内容贴标签 谦虚 谦虚 Easy 5.反信息战略 谦虚 谦虚 困难 6.选举和竞选活动的网络安全 谦虚 谦虚 谦虚 7.治国方略、威慑和破坏 谦虚 Limited 谦虚 8.删除不真实的资产网络 Limited 谦虚 谦虚 9.减少数据收集和定向广告 谦虚 Limited 困难 10.更改推荐算法 Limited 重要 谦虚 Public信息政府行动行动平台行动 2.媒介素养教育。有大量证据表明，媒体素养培训可以帮助人们识别虚假故事和不可靠的新闻来源。然而，教学方法的变化意味着一个程序的有效性并不一定意味着另一个程序的有效性。最成功的变体使有动力的个人能够控制他们的媒体消费并寻求高质量 的信息-在技能发展的同时灌输信心和责任感。尽管媒体素养培训显示出希望，但它在速度，规模和针对性方面面临挑战。接触大量的人，包括那些最容易受到虚假信息影响的人，是昂贵的，需要很多年。 3.事实检查.大量研究表明，事实核查可以是纠正对特定主张的错误信念的有效方法，尤其是对于那些没有大量投资于主张的党派元素的受众。但是，影响事实信念并不一 定会导致态度或行为上的变化，例如对欺骗政客的支持减少或毫无根据的政策建议。此外，事实核查的有效性在很大程度上取决于上下文因素——如措辞、陈述和来源 ——这些因素没有得到很好的理解。即使如此，事实核查似乎也不太可能引起适得其反的效果，导致人们在错误的信念上加倍下注。事实检查员面临着结构性的缺点，即虚假索赔可以比纠正信息更便宜地创建和更快地传播；可以想象，技术创新可以帮助改变这种平衡。 4.标记社交媒体内容。有大量证据表明，用额外的上下文标记虚假或不可信的内容可以使用户不太可能相信和分享它。大型，自信和破坏性的标签是最有效的，而谨慎和通 用的标签通常不起作用。提醒用户在重新共享显示承诺之前考虑准确性，以及为新闻媒体贴上可信度分数的努力。不同的受众可能对标签有不同的反应，并且存在对标签知之甚少的风险：例如，标签有时会导致我们对未标