2023互联网平台网络暴力治理机制构建与测评报告

互联网平台网络暴力治理机制构建与测评报告 中国社会科学院大学互联网法治研究中心2023.07.13 中国社会科学院大学互联网法治研究中心长期致力于互联网法律和政策相关的前沿问题和基础理论研究，研究团队涵盖互联网犯罪、数据治理、知识产权、平台治理、竞争法、行政法、电子证据等专业领域，通过课题研究、产业调研、系列沙龙、开放论坛等方式与互联网理论与实务界展开合作，为立法司法、政府决策、产业发展提供研究支撑，立足于为互联网领域搭建沟通交流的平台，促进产业界、理论界以及从事政策制定、执行、司法裁判的相关机构形成持续对话、良性互动和共同研究的长期机制。 “互联网平台网络暴力治理机制构建与测评报告”课题组 课题组负责人：刘晓春 课题组成员：姜瀚（协调人）、石嘉浩、张芮、许冷玉洁、金昊堉、郑开心、李广钊、朱琳、陈之杞、李凡非、杜天星、杨超然 网址：https://internetlaw.ucass.edu.cn/ 科大互联网法治研究中心 社科大互联网法治研究中 一、网络暴力的界定、机制、形态和类型1 （一）网络暴力的界定和类型1 （二）网络暴力的发生机制7 （三）网络暴力的表现形态10 （四）网络暴力的传播节点16 （五）网络暴力的治理之困19 二、网络暴力治理机制建构与测评20 （一）网络暴力防治措施评价体系20 （二）网络暴力防治技术工具测评体系36 三、网络暴力的平台责任与多元治理39 （一）网络暴力治理的多方责任结构体系40 （二）网络暴力治理的监管措施41 （三）网络暴力治理的平台责任46 （四）网络暴力治理的媒体责任51 （五）网络暴力治理的用户伦理53 四、结论55 科大互联网法治研究中心 社科大互联网法治研究中 中国社会科学院大学互联网法治研究中心2023年7月 网络暴力现象在互联网络空间中时有发生，侵害了广大互联网用户的合法权益，扰乱了正常网络秩序。针对网络暴力现象的多元治理，是维护互联网络空间信息生态秩序健康稳定的题中之义和关键所在。 2022年11月4日，中央网信办印发《关于切实加强网络暴力治理的通知》，提出要切实加大网暴治理力度，进一步压实网站平台主体责任，有效保障广大网民合法权益，维护文明健康的网络环境。2023年6月9日，最高人民法院、最高人民检察院、公安部三部门起草了《关于依法惩治网络暴力违法犯罪的指导意见（征求意见稿）》，向社会公开征求意见。7月7日，国家互联网信息办公室发布《网络暴力信息治理规定 （征求意见稿）》，提出了“强化网络暴力信息治理，营造良好网络生态，保障公民合法权益，维护社会公共利益”的网络暴力治理目标。对网络暴力现象进行有效的治理，需要对我国互联网络空间网络暴力现象的特征进行归纳，从生成机制角度对网络暴力行为和现象加以识别、预防，明确网络服务提供者的主体责任及其边界，充分发挥多元主体的治理效能。 一、网络暴力的界定、机制、形态和类型 （一）网络暴力的界定和类型 近二十年来，互联网尤其是移动互联网降低了社会公众使用网络的成本，网民数量急剧增加，与此同时，网络暴力现象在世界范围内越来越多地进入了公众视野，对网络暴力的法律治理、技术治理、平台规则治理也成为了全球多个法域在互联网络信息生态治理层面的共同需求。然而，由于“网络暴力”这一概念固有的模糊性，其与网络犯罪、网络欺凌乃至部分网络舆论监督之间的区分始终不够明确，这使得对网络暴力行为的治理以及相关研究的深入开展面临难题。 1.现有的网络暴力定义方式及其界定难题 科大互联网法治研究中心 社科大互联网法治研究中 这一定义方式绕过了对具体行为的描述，从工具（计算机系统）和后果（伤害或痛苦）两个视角界定了网络暴力的概念，实现了对网络暴力行为的全覆盖，但未能对网络暴力与网络上一般性的违法犯罪行为作出区分，对于网络暴力的治理尤其是技术治理和平台规则治理方面无法提供具有针对性的参考。 （2）网络暴力是通过某些特定网络行为实现的特定后果 另一类典型的定义思路来自于对具体网络暴力行为展开讨论的研究者，这类定义试图将其与其他网络空间的恶意行为区分开，因此采取列举或穷举网络暴力行为的方式界定网络暴力的内涵。这一类型的尝试主要见于网络暴力研究的早期，如将其定义为“包括侮辱、谩骂、网上围攻、诽谤、恶意暴露个人隐私等人身攻击、严重践踏网络文明的网络事件”2，或描述为“网络暴力行为人对某种不符合社会道德的行为采用网络黑客的手段，公布个人隐私，从网上追到网下，并以无形的舆论压力，造成被害人心理上被强制，进而导致其生理上也被强制的状态，足以妨碍被害人意思决定自由与依其意思决定其行动的自由”3等。 这一定义方式的优势是能够将“网络暴力”的行为限定在特定类型之中，避免因定义的模糊而将其他网络犯罪行为纳入网络暴力范畴，并且客观上也将“网络暴力”一词所指涉行为的烈度限定在了一定范围内。但这一定义的问题在于，列举方式并不能穷尽网暴的所有表现形式，例如，早期以“人肉搜索”为代表的网络暴力形态与社交媒体、视频时代网络暴力的形态已经大不相同。因此，列举行为的界定方式，存在过于零散而缺少抽象层面概括的问题。 （3）网络暴力是特定机制生成的现象 这类思路主要从网络暴力的生成机制入手加以定义，较具典型参考价值的定义包括“网络暴力是现实暴力在网络世界的体现”4或“网络技术风险与网下社会风险经由 1欧盟网络犯罪公约委员会(T-CY)：《关于网络暴力的绘图研究——附2018年7月9日T-CY通过的建议》，载欧盟网络犯罪公约委员会网站：www.coe.int/cybercrime，2018年7月9日。 2王刚：《从“铜须事件”看网络暴力的成因》，载《传媒观察》2007年第1期。 3陈秀丽：《网络暴力现象内涵及原因分析》，载《成都大学学报（社会科学版）》2007年第5期。 4侯玉波、李昕琳：《中国网民网络暴力的动机与影响因素分析》，载《北京大学学报（哲学社会科学 科大互联网法治研究中心 社科大互联网法治研究中 （4）网暴、类网暴、非网暴的区分 对于网络暴力，学界尚且没有统一标准的定义，但实践中各主体早已关注并着手解决这一社会问题。2022年中央网信办开展了“清朗·网络暴力专项治理行动”，并出台了《关于切实加强网络暴力治理的通知》，在该通知中首次规范界定了网络暴力行为，即“针对个人集中发布侮辱谩骂、造谣诽谤、侵犯隐私等违法信息及其他不友善信息，侵害他人合法权益，扰乱正常网络秩序”。尽管这一界定仍有模糊之处，如“不友善信息”的范围该如何界定等，但它指出了网络暴力的核心在于侵害他人合法权益、扰乱正常网络秩序，因此网络暴力应当具有群体性、欺凌性、煽动性的特点，且对社会秩序造成损害。2023年7月7日，国家互联网信息办公室发布《网络暴力信息治理规定（征求意见稿）》通知，进一步将网暴明确为“通过网络对个人集中发布的，侮辱谩骂、造谣诽谤、侵犯隐私，以及严重影响身心健康的道德绑架、贬低歧视、恶意揣测等违法和不良信息。” 与网暴密切相关的另一个概念是类网暴，其表现形式与网暴有很多相似之处，比如行为的“不友善性”、影响范围较大、持续时间较久等。类网暴有很多表现形式，如网络舆论、网络批评、谩骂等，但类网暴与网络暴力有两个重要区别：其一，是否造成了恶意后果；其二，是否符合“巨量”的特征。首先，网络暴力的关键点在于“暴力”，现实中的暴力行为往往出于恶意的目的，并且会造成恶劣影响，但网络舆论和批评并不能一概而论认定其目的恶意，且舆论往往具有监督作用，如果加以引导甚至可以对社会治理起到正面作用。第二，网络批评和谩骂有时只是个人行为，尽管 表面上可能与“暴力”类似，但由于数量太少，造成的后果并未达到群体性、欺凌性、规模性的特征。因此，类网暴并不能简单地归类到“网络暴力”这一概念之下。 由于网暴定义与边界不清晰，网暴界定与识别存在困难。在许多场景和语境中，以“网暴”为名，消费“网暴”，甚至引发真正“网暴”的行为时有发生——应当将 版）》2017年第1期。 5姜方炳：《“网络暴力”:概念、根源及其应对——基于风险社会的分析视角》，载《浙江学刊》2011年第6期。 科大互联网法治研究中心 社科大互联网法治研究中 治理边界。必须指出，网络暴力不是“箩筐”，不能随意将争议事件与网暴不当关联。在各方尚未达成共识的情况下，应当审慎认定网络暴力，警惕网暴概念的泛化和滥用，同时平台和媒体也应加强正向宣导，不应炒作和夸大个别评论的影响力。6 需要明确的是，本报告所针对的对象是治理范围内的网络暴力，而类网暴、非网暴在实质上并不属于网络暴力的范围，类网暴与非网暴行为也要排除在此份报告的讨论范围之外。 （5）网络暴力界定的六大难点 目前针对网络暴力的概念和内涵仍未有明确的规定，界定难成为网暴治理的首要难题。有专家提出，“网络语言暴力”应包含以下定义要素：第一，语言形式使用负面表达；第二，聚集大量冲击性语言；第三，对当事人产生巨大负面影响。这种界定对典型的网暴行为可以涵盖，但仍面临很多疑难杂症。如果网暴的定义不能明确，关于网暴的争论就永远无法休止。7因网暴难以界定且容易引发社会关注和同情，部分媒体、自媒体可能在未核实基本事实的情况下，将事件结果与网暴强行关联，形成了以“假网暴”催生真网暴的现象。 首先，“风言风语”、“揣测暗示”以及难以准确定义的部分语言暴力是否应纳入法律意义上网络暴力的范畴，是横亘在网暴治理中悬而未决的难题。有专家指出，以冷嘲热讽、煽风点火、风言风语、阴阳怪气为主的不良信息型网络暴力违法特征并不明显，但对当事人造成的伤害不亚于造谣诽谤、侮辱谩骂、侵犯隐私等网络暴力违法信息。这些难以界定为违法信息的不良信息，是否应受到法律的规制有待进一步讨论。8 其次，网络暴力难以有效界定的主要难点和最大问题在于，网络暴力造成的伤害 6参见《评论：警惕网暴概念泛化，当心奇葩言论炒作挤占公共表达空间》，载《南方都市报》2022年10 月25日，https://m.mp.oeeee.com/a/BAAFRD000020221013730133.html。 7参见徐默凡：《治理网暴不能一禁了之关键在于明确定义》，载人民论坛网2023年6月26日， http://www.rmlt.com.cn/2023/0626/676436.shtml。 8参见张凌寒：《基于场域性的网络暴力治理研究：从“不良信息”型网络暴力展开》，载微信公众号“探索与争鸣杂志”2023年6月10日。 科大互联网法治研究中心 社科大互联网法治研究中 例如在“粉色头发女孩被网暴去世”一案中，当事人自述其曾与网络暴力实施者交流并取得一定的澄清效果，但大规模的恶意评论仍然使得其无力招架。 第三，从实践情况来看，一般的量化指标往往难以实现网络暴力现象的准确界定。例如在“女篮运动员李梦微博遭网暴”一案中“这个银牌和你关系不大吧？”“发烧打一针不能上场吗？”“决赛为什么不能拼一下呢？”等攻击性评论实际占比不足1%，李梦本人也亲自予以反击，这算不算得上网暴？在李梦事件中，有声音对相关评论是否属于网暴范畴提出质疑。从施暴人数、攻击频次等因素看，也存在尚待厘清的判定细则——比如在单个施暴者和数以千百计的施暴者之间、随机偶发和持续不断的网络攻击之间，构成网暴的标准几何，是否应当考虑网暴评论数量以及在整体评论中的占比情况等等。9 第四，当事人的主观感受影响对网暴的认定，网暴界定需要考虑不同情境。对话者的身份不同，语言中的暴力属性完全不同，比如一句话用在父母朋友之间可能会认为是开玩笑，但放在陌生人之间就是恶语相向。一些表达可能仅仅会对特定的人带来伤害，一旦脱离情境，如何用一种普遍性的规则界定其是否为网络暴力较为困难。如果把负面的、不友好的、不当的评论也纳入网暴范畴，可能会进一步缩小言论的边界，压缩正常批评的空间。在快速处置与精准处理的双重诉求下，应赋予平台一定的试错空间，不应过度苛责。此外，网络暴力产生伤害的机制本身也是动态的，一方面，作为个案的网络暴力现象发展变化很快，有关评论的规模可能在几天内迅速膨胀到千万级；另一方面，对受害者造成伤