2023数字内容风控行业白皮书

娱乐社交风控报告2022数字风控的力量 守望网络生态产品力与运营力 我们助力合规 前言据第50次《中国互联网络发展状况统计报告》显示，截至2022年6月，中国网民规模为10.51亿，互联网普及率达74.4%。中国互联网的飞速发展全世界有目共睹，它让中国企业快速跻身世界先进企业行列，也给人们的生活带来了巨大的便利。但在互联网飞速发展的背后，也在不断催生新的危机。 从用户角度来看，互联网信息内容良莠不齐，对于分辨是非能力尚弱的未成年人而言，网络不良有害信息无疑会给他们的身心健康带来恶劣影响；互联网的“难分真伪”的特点也令其成为滋生诈骗犯罪事件的温床；信息飞速传播的特点更是“助长”了谣言传播，危及社会；服务于用户的网络却忽略了“少数群体”的需求，面对常见的验证码形式，视障用户倍感吃力。 从企业角度来看，监管政策的进一步收紧意味着互联网企业时刻面临着下架、罚款等风险；日益攀升的互联网普及率让大量用户接触到网络的同时，也带来了爆发式增长的信息；不良信息变种多样，监管政策时常出新，平台面对内容审核这一难题时，显然是心有余而力不足。 不难看出，面对“杀伤力”极强的网络不良有害信息，无论是用户还是企业或多或少都会受到伤害。因此，如何保障互联网企业的内容安全，助力企业合规发展，守护用户文明、和谐的互联网生活，就成为了互联网时代背景下的热点议题，也催生出了数字风控的需求。通过构建好的数字风控技术来让互联网世界变得更加美好，这是易盾的目标，也是易盾一直在坚持的方向。 针对用户在互联网时代下遇见的难题，易盾在《2022社会责任白皮书》中给出了详细的解决方案。通过内容生态布控、安全保护场景化来守护未成年人的网络生活；对注册登录阶段、用户行为管控等进行多维度检测，协助反诈中心侦破网络电信诈骗案；对突发谣言进行风控评级，及时布控，用技术手段深入谣言传播各个环节，精准阻断传播路径；成立专属的无障碍小组，打造安全畅通的语音，满足视障群体的需求；作为“可信人脸”的成员单位，易盾也在用自己的努力促进AI公平性、提高AI透明度以及增强AI稳健性。 前言在《2022娱乐社交风控报告》中，易盾深刻剖析了企业在内容审核上所遇见的难点，对症下药，开出了“内容安全治理良方”。精准高效的机器检测涵盖了文本、图片、视频、音频等四大内容审核维度，通过全链路解决方案与用户风险画像的搭建以提升行为分析能力，适配场景化需求、人机协同的智能审核平台大幅提升了审核效率、节省了人工成本。易盾采取及时同步政策、更新审核标准的运营策略，时刻保障企业平台内容安全。依据不同国家地区法规与实际情况而仔细梳理出海外监管重点与内容审核维度，辅之以具体海外监管处罚案例，助力企业合规出海，不受阻碍。 而在本报告中，我们提炼出了数字内容风控的精华，以详实的数据、简单易懂的流程图与实际的案例让读者了解有关内容治理的更多精彩内容。 目录第一章 社会责任篇第二章 内容审核治理篇第三章 内容安全数据分析篇1.1 守护未成年人的网络生活 1.2 协助反诈中心侦破网络电信诈骗案 1.3 防控“谣言”在数字生态中的传播 1.4 将无障碍写进身份验证 1.5 可信AI在数字内容风控中的探索2.1 行业背景 2.2 数字内容风控的产品力 2.3 数字内容风控的运营力3.1 数字内容风控现状 3.2 有害内容数据分析 3.3 网络黑产发展趋势 知乎一直以来都非常重视社区生态治理，面对海量数据，治理方找准方法很重要。我们需要充分利用好算法模型的优势，并与第三方服务商合作。网易易盾是国内领先的内容安全服务商，我们非常认可其安全服务的专业性和可靠性。 ——知乎澎湃新闻专注于严肃的时政新闻。我们经常说“万无一失、不容出错”，我们对内容安全的要求比其他平台更高，肩上的责任重大。针对内容安全，我们组建了专人团队，但还是远远不够。我们跟网易易盾达成战略合作，引进一些数字内容风控能力进来，完全补充我们的短板。从合作来看，我们自身能力加持易盾技术，能把内容安全相关因素给排除掉，不留后顾之忧。在国际舆论波谲云诡的今天，我们将携手易盾进一步加强合作，共筑防线，共谋发展。 —— 上海新湃管理咨询有限公司社交行业监管要求高，难度也相对较大。此前我们使用过其他安全类产品，但没能满足我们需求。最终，我们选择了网易易盾。首先，易盾有着专业的技术，与我们此前合作过的服务商相比，易盾的识别准确率最高；其次，易盾有着专业的服务，为我们内容安全体系的搭建提供了专业建议；最后，易盾在协作上十分高效，总能在第一时间解决我们的问题。因此，我们选择易盾作为长期合作伙伴。我衷心希望易盾越来越好，继续为更多企业提供专业优质的内容安全服务。 ——杭州知聊信息技术有限公司从闲趣岛正式上线以来，我们和易盾团队就一直合作，易盾是整个风控领域中富有经验的服务商之一，确确实实做了有效的防控措措施。我们的初心是做一款干净、温暖的产品，让老年人能够真正得到幸福陪伴。与易盾这样的第三方安全风控厂商合作，做好风险把控，可以让中老年人在手机使用时降低一些紧张感，消除种种顾虑。未来，双方共同磨合、共同努力，发挥出易盾风控产品的更多力量。 ——博学明辨客户证言 随着 Cocos 在游戏领域的持续积累，安全和稳定的重要性日益凸显，网易易盾的加入将让 Cocos 的生态更加完善。易盾帮助 Cocos 平台上的游戏开发者和厂商解决了许多安全方面的问题。这些开发者和厂商的评价很高，接下来我们希望和易盾继续保持良好的合作关系。 ——Cocos将网易易盾加入验证解决方案合作伙伴对 Unity 开发人员社区来说很有意义。网易易盾在帮助开发者抵御外部安全风险方面有良好记录，我们期待将网易易盾的影响力扩展到 Unity 社区，并帮助我们的降低反作弊，安全防护方面的成本，让我们的开发者更专注的去做产品。 ——Unity《江南百景图》是一款富含东方美学色彩的古风手游，充满古韵的游戏画面得到了玩家的好评和认可。随着玩家规模逐渐扩大，各种作弊方式也逐渐出现，而易盾的“手游解决方案”则为我们提供了保障。易盾针对这款游戏的特点，设计了一套严谨周密的保护方案，采取加固和反外挂的多重“组合拳”，帮助我们拦截了无数违规外挂用户，成功降低了游戏外挂风险，让《江南百景图》具备了主动防御能力。在内容风控难题上，易盾也通过智能机审来检测内容数据，帮助我们拦截问题内容，保障玩家的游戏体验。 ——《江南百景图》《万国觉醒》是中国SLG策略游戏出海的代表，在同类游戏中排名Top 1，在海外，我们和易盾保持着紧密的合作。易盾帮助我们解决了出海的两大难题，一是游戏安全，二是内容安全。引入易盾“反外挂系统”后，游戏可以迅速检验到打金工作室批量操作行为，并实时防范外挂、破解、盗版等风险。而在内容安全层面，易盾的海外机审也帮助我们及时规避了游戏中出现不良有害信息的风险，让玩家可以享受公平、和谐的游戏环境，并收获更好的游戏体验。 ——《万国觉醒》客户证言 典型客户案例 社会责任篇娱乐社交风控报告2022数字风控的力量 守望网络生态产品力与运营力 我们助力合规 目录1. 守护未成年人的网络生活2. 协助反诈中心侦破网络电信诈骗案3. 防控“谣言”在数字生态中的传播4. 将无障碍写进身份验证5. 可信AI在数字内容风控中的探索 前言我们在新闻中看到，勒索软件攻击、个人身份隐私盗窃活动以及网络欺诈的威胁。互联网世界仍旧处于混乱之中，但新的迹象逐渐在展露。 易盾的目标是通过构建好的数字风控技术来让互联网世界变得更美好。整个团队都在努力创新，以构建网络生态守护的技术链，让数字风控成为一个新 产业。每个人每天都可以安全徜徉在更舒适、更精彩的互联网生活中。 作为业务战略的一部分，易盾确定了助推网络生态治理的五个优先领域，在每个领域设定承诺和目标，并开展活动以实现这些目标。 本报告将重现过去一年易盾坚持的这几件事，分别是：未成年人保护、反欺诈对抗、社会谣言治理、无障碍改造以及可信的 AI 研发。 当前，最新一期的《社交娱乐行业数字风控白皮书》社会责任篇章已发布，欢迎获取完整报告。通过详细阅读报告，互联网平台企业能够获悉如何在风 险来临之前做好安全风控，避免企业和个人遭受网络黑灰产所带来的损失。 未来，我们将与希望建立更美好社会的客户与机构合作，以技术服务赋能为 手段，与互联网平台企业共存共荣，减少业务数字化转型给互联网生态带来 额外负担。 风控报告未成年人保护守护未成年人的网络生活01中国互联网络信息中心（CNNIC）2020 年的报告显示，我国未成年人网名约达到1.83亿 人，其中近 65% 的未成年网民拥有自己的手机作为上网设备，未成年人接触网络成为常态。 2020 年 10 月，十三届全国人大常委会审议通过修订后的《未成年人保护法》，增设“网络保护”专章，首次在法律中规定未成年人网络保护内容，具有里程碑意义。针对未成年人网络安全的“清朗”专项行动也持续推进，加强未成年人网络保护成为社会共识。 当前，易盾对未成年人的识别和守护机制覆盖未成年人终端达到百万级。易盾通过一系列措施 输出用户的未成年标签，首先结合实名认证、未成年行为检测等“用户信息检测”，其次人机 合作开展“UGC 内容观察”。基于技术手段，平台得以精准定位未成年人，在多场景下对用 户进行功能限制以及隐私保护。2022 娱乐社交 风控报告 风控报告网络为未成年人创造了一个全新的世界，在学习、休闲娱乐、社交等方面发挥了重要作用，尤其自 2020 年初新冠疫情发生以来，互联网成为未成年人获取疫情动态、坚持学习、与朋友保持沟通的重要保障，但也引发了未成年人身心健康保护的挑战。易盾对未成年人面临的网络风险进行统计，主要涉及以下几个方面。内容审核分别从儿童色情、伦理道德、思想毒害、暴力自残、不良社会风气、不文明行为多方位布控，做到真正保护未成年，让未成年在网络上畅游。网络安全事件内容生态布控2022 娱乐社交 风控报告网络违法侵害：随着移动互联网和智能设备的普及，未成年人接触网络的机会越来越多，遭受网络违法犯罪侵害持续多发。尤其是重点规避利用网络实施的性侵、诈骗未成年人、教唆犯罪、诱导自杀等犯罪行为。不良信息影响：在未分级的情况下，未成年会遭受各方垃圾信息侵害从而影响未成年身心健康发展，例如儿童色情、儿童邪典、血腥暴力、恐怖灵异、邪教迷信、腐文化、不理智追星、 炫富拜金等信息影响未成年发展；抽烟、喝酒、纹身此类不良行为也会引起未成年争相模仿。个人隐私泄露：在社交场景中，常出现未成年人被诱导说出自己的年龄、家庭住址、联系方式等隐私，从而使恋童癖等犯罪分子有机可乘大肆作恶。网络沉迷成瘾：网络沉迷成瘾是国家着重发力的一部分，互联网的日新月异和智能电子设备的普及会导致自制力不好的未成年人沉迷网络，影响身心健康。儿童色情：包含性索求、询问个人信息等文字内容，图片方面包含成年人大尺度写真、儿童软色情表情包。 风控报告最新的法律法规在不同场景下对未成年人的保护逐渐增强：游戏引入防沉迷时间，直播限制消费打赏。为了满足游戏、直播、社交、教育、论坛等多种场景需求，易盾利用多年产品、技术和运营经验，全天候无缝贴身保护未成年人的数字生活。安全保护场景化2022 娱乐社交 风控报告伦理道德：包含不适宜未成年接触的腐文化、乱伦、早孕早恋、同性交友相关内容。思想毒害：包含儿童邪典图文视频，低质网文、封建迷信、传教、恐怖灵异等文本内容，大尺度擦边等低俗二次元图片。暴力自残：包含对未成年打骂、体罚等暴力虐待相关内容，以及宣扬黑社会、校园霸凌、诱导自杀自残的图文内容。不良社会风气：对会影响到未成年身心健康的拜金炫富内容、网络诈骗、不理智追星、网络赌博、离家出走、辍学等方面进行布防。不文明行为：包含纹身、抽烟、喝酒、竖起中指、吸毒等未成年极易模仿的不良行为。直播场景：针对直播场景中未成年不能出镜的问题，易盾实名认证可保证账号背后人的真实年龄，平台可根据账号真人年龄进行功能限制。社交场景：针对未成年不良社交行为，易盾布防的未成年交友和涉及同性交友相关策略能有效解决未成年人易在社交场景出现的风险问题，在内容上相应布控诱导未成