5-1 内容风控产业观察和评测体系解读

数字经济与互联网内容治理

一、数字经济的重要性

• 数字经济作为一种新型经济形态，将重构经济发展和治理模式，带来经济社会形态变革。
• 全球数字经济规模持续扩大，2019年数字经济增加值规模达到31.8万亿美元，同比增长1.6万亿美元。

二、互联网内容监管与治理

• 全球趋势：各国越来越重视互联网内容的监管与治理，如欧盟《欧盟更安全的社交网络原则》、美国《打击恐怖主义使用社交媒体法》等。
• 重点内容：
  • 极端主义与暴力内容治理成为重中之重。
  • 虚假信息治理引发广泛争议，如是否赋予政府或法官过大的自由裁量权。
  • 网络生态由“自治”转向“法治”。

三、我国互联网内容治理生态体系

• 政策法规：包括《中华人民共和国网络安全法》、《网络信息内容生态治理规定》等。
• 发展趋势：
  • 政策出台时间跨度逐渐缩短，表明国家对网络内容的监管力度和重视程度逐渐加强。
  • 政策法治理的内容逐渐细化到各领域。

四、内容审核技术挑战

• 内容识别：包括文字识别、图片识别、视频识别、语音识别四种类型。
• 审核技术难点：
  • 多变性：形近字、音近字等。
  • 多语义：不同语境下词语含义不同。
  • 内容短：难以准确识别短内容中的情感、语义。
  • 图片质量差异大：需要支持多种文本识别。
  • 音视频检测：深度伪造技术检测难度大。

五、内容科技产业推进方阵

• 成立背景：为促进内容科技的发展，中国信通院倡议发起成立“内容科技产业推进方阵”。
• 组织架构：
  • 包括内容生成技术应用工作组、内容风控与治理技术应用工作组、内容传播与运营技术应用工作组等。
  • 首批65家成员单位涵盖多个领域的企业。

六、工作方向

• 内容生成技术应用研究：
  • 如何平衡好生成式人工智能技术发展和有效治理。
  • 编写并发布《2020年虚拟数字人发展白皮书》。
• 内容传播与运营技术应用研究：
  • 制定智能推荐可信能力要求。
  • 开展智能营销产品能力标准制定。
• 内容审核技术应用研究：
  • 建立内容审核第三方服务平台。
  • 制定《网络治理能力评估规范：有害信息内容识别服务系统》和《内容治理能力成熟度评估规范》。

---

以上是对研报主要内容和关键数据的总结。