区块链为深度合成技术治理提供新思路

2023年3月22日第13期总第801期 区块链为深度合成技术治理提供新思路 深度合成技术可生成人类肉眼无法识别的虚假图像和视频，其“以假乱真”的特性在应用中易引发侵害用户合法权益、传播违法信息和操纵社会舆论等一系列问题，给个人隐私、网络安全、社会稳定和国家安全等带来严重威胁。2022年12月，国家互联网信息办公室、工业和信息化部和公安部联合发布《互联网信息服务深度合成管理规定》（以下简称《规定》），旨在推进深度合成技术的依法合理有效利用。目前深度合成技术治理仍存在多重 困境，亟需采用新手段助力。区块链技术可通过提供可信标识方法、搭建可信多元监管网络、实现数字内容溯源，大大增强不可信环境中的共识能力，为深度合成技术的治理提供新思路。赛迪研究院网络安全研究所建议，可通过统筹基础设施、深化融合应用、完善技术治理环境等措施，加强区块链技术在深度合成技术治理中的应用，以有效应对深度合成技术带来的风险。 一、当前深度合成技术治理仍面临三大困境 为加强互联网信息服务深度合成管理，《规定》细化了采取技术标识溯源等合规义务，明确了惩罚手段，构建了多方联合监管机制。但由于缺乏有效治理工具，导致上述要求在执行过程中遇到阻碍。整体来看，深度合成治理仍处于起步探索阶段，当前治理仍面临以下三重困境。 标识管理体系缺陷增加了对深度合成服务的监督协调和治 理成本。在深度合成服务治理中，深度合成技术提供商需要在可能导致公众混淆或误认的深度合成信息内容中加入显著标识，以 提示公众该内容具有生成合成特性。但当前标识体系由深度技术提供商集中式管理，可能会出现为了自身利益，人为利用技术手 段删除、篡改或隐匿相关标识的行为。这将大大增加管理人员的监督和协调成本，降低深度合成内容治理效率。 行业监管部门缺乏对深度合成违法行为的有效固证及追责 手段。随着深度合成技术应用范围的不断扩大，新型伪造方法层 出不穷，加之网络环境日趋复杂、深度合成检测算法存在漏洞缺陷，对深度合成内容溯源十分困难。一旦出现不法分子利用深度合成技术实施违法犯罪，一方面其相关伪造证据难以被及时掌握，另一方面也缺乏有效技术手段，对视频内容制作者、深度合成技术提供商、深度合成服务提供商和网络平台的违法行为所涉主体也难以进行责任追究。 多方联合监管机制不健全影响深度合成服务风险管理效率。 推动深度合成服务相关产业的健康有序发展，需要政府、从业者和公众多方共同参与监督。目前，政府监督管理部门之间，以及与服务提供者和技术支持者之间缺乏高效的协作监督工具和手段，各主体在数据共享过程中存在信任环境缺失和信息孤岛等问题，致使相关机构无法及时、准确和全方位地掌握深度合成违法行为的最新动态，也难以在第一时间进行联合应对和处臵。 二、可利用区块链技术赋能深度合成技术治理 利用区块链技术建立可信标识体系，实现标识的有效管理。 基于区块链技术的虚假信息标识与治理目前已有较成熟的商业应用，比如，广告屏蔽插件AdblockPlus公司，通过将基于区块链技术的信任标识添加到浏览器扩展程序中来监测虚假新闻。同样，深度合成服务供应商或社交媒体平台也可利用区块链技术，为深度合成内容创建分布式标识，并生成标识文档；向分布式标识区块链节点申请可验证的身份证明，并对证明进行哈希计算。通过智能合约记录将标识创建的时间、人员、原始信息、身份证明等数据记录在区块链系统中，以保证标识的可追溯、不可篡改以及可验证。 利用区块链技术进行深度合成内容溯源，对违法行为进行追 责认定。基于区块链系统发布深度合成内容时，发布人身份及时 间、地点和发布平台等系列信息会被一并记录下来，且不可篡改。因此，可根据固化的深度合成内容流动轨迹，追究扩散违法内容、刻意隐匿非法内容传播等相关主体的法律责任。实际上，区块链技术在司法存证领域已有较为广泛的应用。自《最高人民法院关 于互联网法院审理案件若干问题的规定》首次对区块链技术作为电子存证手段进行确认以来，截至2023年2月，北京互联网法 院“天平链”采集数据已超1.9亿条，杭州互联网法院司法区块 链存证量已超20亿条。 利用区块链技术构建可信任监管网络，提升多方联合监管效率。在本质上，区块链是由多主体参与的分布式数据系统，系统中的每个节点都可以进行单独修改和维护，并通过多方共识机制 形成一个可信网络，为数据流转监管提供了一个强信任的底层环境。通过区块链打造由深度合成服务提供者、应用商店、公众、政府部门等多方参与的监管网络，网信、工信和公安等部门作为节点参与其中，在将监管规则编写成智能合约部署在区块链上，可实现多方参与的链上深度合成信息实时监测，进而对数字内容的生产、传播和评价进行全方位监督，将大大促进多部门间的数据流通与共享，有效提升多方监管协作效率。目前，金融、科研诚信等领域已较为广泛地使用了区块链技术实现多方同时在线协同和交互监管，实践结果表明，区块链的应用大大减少了监管中的数据孤岛、多头报送等现象，提高了风险发现和处臵效率。 三、几点建议 统筹规划基于区块链的深度合成治理基础设施。一是政府统筹搭建基于区块链技术的深度合成服务监管平台，推动完成全网 深度合成内容的实时采集，优化和完善深度合成内容检测手段，形成可视化数据结果呈现，促进部门间数据的可信互通，打造完善的联合监管网络。二是加快推进深度合成服务提供商、技术提供商和社交媒体将内容合成前后、发布和传播后的信息上链，实现内容合成全过程数据的完整、真实和可追溯。三是组建由网信、公安和工信以及第三方平台组成的专业技术团队，利用区块链系统和智能合约内容对深度合成服务实行高效监测，结合数字水印技术实现对深度合成内容的持续追溯。 深化区块链与多种治理技术的融合应用。一是设计以图像 分析算法为核心的智能合约，将区块链与人工智能结合以实现深度合成内容的自动检测。二是利用“区块链+神经网络”，实现新的深度合成内容异常数据流量监控体系，主动对深度合成服务风险进行监控和预防。三是引导政府管理部门、科研单位和相关企业研发基于“区块链+数据挖掘分析”的风险管理模型， 针对深度合成服务管控痛点和难点，利用全新的深度合成技术提升风险管理效能。 完善基于区块链的深度合成技术治理环境。一是加强区块链 治理深度合成技术的基础理论研究与技术应用，制定相关扶持政策，激发区块链研发企业参与深度合成技术风险管理的积极性与主动性。二是尽快开展基于区块链的深度合成技术治理相关示范工程建设，加快技术成果转化，利用试点验证形成示范带动效应。三是鼓励行业积极研制基于区块链的深度合成治理标准规范和行业公约等制度，以产业自治方式，不断推进深度合成技术应用的安全有序发展。 本文作者：赛迪研究院 联系方式：18810775891 刘权王伟洁孙小越吴曼迪 电子邮件：wangweijie@ccidthinktank.com 政策法规研究所规划研究所产业政策研究所（先进制造业研究中心）科技与标准研究所知识产权研究所工业经济研究所中小企业研究所 节能与环保研究所安全产业研究所材料工业研究所消费品工业研究所军民融合研究所电子信息研究所集成电路研究所信息1七与软件产业研究所网络安全研究所 无线电管理研究所（未来产业研究中心）世界工业研究所（国际合作研究中心） 通讯地址：北京市海淀区万寿路27号院8号楼1201邮政编码：100846 联系人：王乐联系电话：010-6820055213701083941传真：010-68209616网址：http://www.ccidthinktank.com电子邮件：wangle@ccidgroup.com II