为什么 AI 生成的内容标签授权不足

数据创新中心研报总结

一、生成性人工智能（GenAI）概述

• 定义：生成性人工智能（GenAI）是一种能够生成高质量数字内容的技术，包括图像、文本、音乐和视频。
• 优势：提高了工人生产效率，提供了创新的新工具。
• 潜在滥用：可能用于传播虚假信息、侵犯知识产权和制造有害的深度假信息。

二、标签与标记策略

• 主要方法：数字水印、数字指纹和加密元数据。
• 挑战：
  • 技术限制：水印容易被移除，不同国家的法规不一致。
  • 操作困难：难以在不降低内容质量的情况下添加水印。
  • 效果有限：无法解决虚假信息、知识产权侵权和深度合成内容的根本问题。

三、政策建议

1. 信任信号：
   • 推广C2PA标准，允许用户检查数字内容的来源和历史。
   • 政府机构采用C2PA标准，增强公众对政府发布内容的信任。
2. 针对性解决方案：
   • 加强知识产权法律执行，保护所有内容。
   • 启动数字、人工智能和媒体扫盲活动，提高用户批判性评估内容的能力。
   • 针对特定问题（如深度合成和虚假信息）制定具体对策。

四、结论

• 全面方法：建立整个数字生态系统的信任，而不是仅仅针对AI生成的内容。
• 避免一刀切：针对具体问题开发针对性解决方案，提高策略的有效性和稳健性。

关键数据

• C2PA标准：获得包括Adobe、Google、Meta等多家科技公司的支持。
• AI法案：美国和欧盟提出相关法规，要求标注AI生成内容。
• 水印挑战：当前水印技术容易被移除，且不同国家的法规不一致。

总结

数据创新中心认为，通过采用C2PA标准等自愿解决方案，建立整个数字生态系统的信任是更为有效的策略。强制标记AI生成内容并不能解决核心问题，反而可能导致误导和信任缺失。政策制定者应关注具体问题，开发针对性解决方案，以构建更安全、更可信赖的数字环境。