可信虚拟人白皮书（2023）

可信虚拟人白皮书 1 可信虚拟人白皮书 （2023） 虚拟现实与元宇宙产业联盟2023年09月 前言 近年来，作为元宇宙中真人沉浸式体验的重要载体和AIGC的关键要素，虚拟人技术产业乘势而起，在元宇宙和AIGC双轮产业进步下迎来了新一轮发展热潮，在影视、传媒、金融、营销等行业呈现出强劲的增长态势。但是，虚拟人产业在快速发展的同时，也迎来了一系列风险隐患、伦理思考和法律挑战，如近日通过虚拟人软件“AI换脸”“AI换声”以替换、伪造他人声音形象，形成高度写实逼真且肉眼难以分辨的音视频影像，从而开展虚假信息传播、造谣生事，甚至诽谤和诈骗等不法活动的案例频繁出现，在隐私保护、内容合规、问责追溯和伦理等方面带来诸多风险和挑战。 当前国内外针对可信虚拟人的研究和实践还尚处于初期阶段，在企业侧、行业侧和监管侧尚未形成一套完整的指导方针和行动方案，虚拟人的可信建设刻不容缓。什么是可信虚拟人？可信虚拟人涉及虚拟人全生命周期与可信要素的结合，在虚拟人技术研发、生成服务、运营使用等各个环节和可信手段进行紧密融合，即虚拟人技术研发可信建设、生成平台可信建设、运营使用可信建设等，使其符合标准规范、伦理道德等方面的可信要求。 本白皮书围绕“虚拟人全生命周期的可信建设”这一关键问题，结合可信手段将可信要素与虚拟人全生命周期进行深度融合，构建可信虚拟人框架体系，总结提出七大可信目标，即：身份及权利保障、隐私保护与增强、生成内容安全、可靠性可控性、可理解可解释、无偏见多样化、可问责可追溯。探讨可信虚拟人发展路径和具体能力要求，从功能完备度、系统可信能力、产业化能力三大维度构建可信虚拟人分级评估体系。实现手段上，白皮书从可信技术和可信管理两方面，针对技术研发阶段、生成服务阶段、运营使用阶段的不同主体的可信能力建设提出建议，推动行业合规化发展。 未来，以可信原则指导发展成为虚拟人产业安全、可控、高质量发展的必经之路。业界亟须将虚拟人的高速发展与内容安全、隐私保护、数据安全、算法合规、系统可控等诸多因素相互协同，通过虚拟人的可信建设实现对技术支持方和服务提供者的道德约束，指导其所提供产品满足法规要求和伦理要求。未来，更需汇聚行业普遍共识，探索建设新模式；推动技术创新，深化技术融合；加强流程管理，完善可信生态；构建标准体系，加快合规发展；完善政策体系，推动伦理治理；规范场景应用，打造示范项目，从而促进社会对虚拟人的认知、信任与支持。 本文件由XRMA联盟虚拟化身特设组制订，并负责解释。本文件发布日期：2023年9月18日。 本文件由虚拟现实与元宇宙产业联盟提出并归口。 本文件归属虚拟现实与元宇宙产业联盟。任何单位与个人未经联盟书面允许，不得以任何形式转售、复制、修改、抄袭、传播全部或部分内容。 本文件牵头单位：中国信息通信研究院 本文件参编单位：上海商汤智能科技有限公司、中国工商银行股份有限公司、厦门黑镜科技有限公司、东北大学、世辉律师事务所、讯飞幻境（北京）科技有限公司、北方工业大学、中国移动通信研究院、维沃移动通信有限公司、拓元（广州）智慧科技有限公司、北京度量科技有限公司、无锡市城市运行管理中心、二六三网络通信股份有限公司、北京世纪好未来教育科技有限公司、绿洲创元数字科技（漳州）有限公司、北京特美通传媒科技有限公司、寰宇信任（北京）技术有限公司、福建超数科技有限公司、北京美舫科技有限公司 本文件参编人：许闻苑、杨燕、高天寒、施佳子、肖扬、张庭翔、吴松城、杨建顺、肖悦、米庆巍、张晋、李家豪、林思宇、王英博、胡逸、朱伯虎、毛储懿、郑嘉煌、石慧、雷景伊、周博、田密、刘子韬、任亚军、王婷、吴文熙、郭乐、宿盛禹、宋园艺、李文凯、艾芳、郭悦、罗振华、孙喜庆、王辉柏、赵鹏、邓远达、李慧、夏文燕、刘冉、王亚忠、郭飞、刘磊、郑紫阳、徐东升、刘上 免责说明：本文件免费使用，仅供参考，不对使用本文件的产品负责。 目录 1.可信虚拟人发展背景4 1.1元宇宙和AIGC浪潮下，虚拟人产业迎来发展热潮4 1.2市场机遇下面临伦理及法律等多重风险4 1.3全球范围虚拟人的可信实践10 2.可信虚拟人体系构建13 2.1什么是可信虚拟人13 2.2虚拟人可信建设的必要性13 2.3可信虚拟人体系构建14 3.可信目标、可信手段、分级原则17 3.1虚拟人组织可信建设目标17 3.2虚拟人组织可信能力建设手段21 3.3虚拟人组织可信能力建设的分级原则28 4.可信虚拟人能力建设建议31 4.1技术研发阶段建设建议31 4.2生成服务阶段建设建议37 4.3运营使用阶段建设建议43 4.4全生命周期建设建议45 5.可信虚拟人展望和建议49 参考文献1 1.可信虚拟人发展背景 1.1元宇宙和AIGC浪潮下，虚拟人产业迎来发展热潮 1.虚拟人的定义和分类 业界虚拟人概念繁杂，当前对虚拟人的具体定义尚未有统一的论述，一般而言，虚拟人指通过计算机图形学、计算机视觉和人工智能等技术，进行形象、声音、动作等模型训练后，借助真人或计算驱动、在多模态输出设备呈现的与人类形象接近的虚拟人物。 根据技术维度、身份维度、视觉维度、外形风格等不同角度，虚拟人有多种分类方式。其中，根据与现实自然人是否有映射的身份维度分类方式划分，可将虚拟人分为真人映射型和非真人映射型两类。基于真人自身映射的虚拟化身为本白皮书重点聚焦的研究对象。 2.虚拟人产业高速发展 作为元宇宙中真人沉浸式体验的重要载体和AIGC的关键要素，伴随元宇宙和AIGC双轮产业进步，虚拟人迎来新一轮发展热潮，在服务、营销等行业迎来爆发式增长。根据IDC数据显示，2026年中国AI数字人市场规模将达到102.4亿元。据天眼查数据显示，截至2023年7月，现存“数字人”相关企业68.7万余家， 其中2022年新增注册企业26.5万余家，新增相关企业注册增速达84.2%。当前，虚拟人产业不断升级，商业模式多元化发展，广泛应用于金融、传媒、营销、文旅等各行各业，呈现出日新月异的变化。伴随技术革新与进步，人工智能的发展将促进虚拟人的生成效率、理解能力与情感互动能力迅速进步；空间计算、动作捕捉、实时云渲染、空间音视频等技术的深度融合将促进虚拟人与场景应用深度链接，为产业降本增效的同时持续提升用户的临场感受；虚拟人的角色定位和商业模式将根据场景需求与客户类型呈现出不同的价值表现。 1.2市场机遇下面临伦理及法律等多重风险 虚拟人产业规模和应用范围目前处于高速发展阶段，在抢抓市场机遇的同时，虚拟人产业也面临着一系列伦理、社会和法律问题，真假难辨的虚拟人在隐私保护、内容合规、问责追溯和伦理等方面带来诸多风险和挑战。本白皮书将从科技与法律、道德、伦理等方面的动态融合视角对虚拟人产业进行风险审视与探讨。 1.隐私安全所面临的风险 虚拟人生成、运营、使用过程中面临非法获取与使用个人信息的风险。虚拟人涉及的隐私安全问题一直以来都被广泛关注，其在收集训练数据及后续输出信息等诸多环节（包括虚拟人的收集训练阶段或在对外提供服务、输出信息等过程）是否符合个人信息保护、是否符合隐私安全政策等要求，是目前实操中被关注的重点问题。如在虚拟人生成、运营、使用等相关过程中存在任何非法获取、使用个人信息（包括但不限于姓名、证件号码、生物识别信息等）的，将可能侵犯公民个人信息，违反隐私安全、数据合规要求，并因此承担相应法律责任。 在部分国外案例中，未经同意采集、使用他人的生物识别数据的行为被判定构成对个人隐私安全的侵犯，该侵权行为常被诉诸集体诉讼。 专栏1：国外案例 案例1：Facebook、Google、Microsoft、Amazon违反BIPA相关案件 案件详情： Facebook、Google、Microsoft、Amazon违反伊利诺伊州《生物识别信息隐私法》(“BIPA”）相关案件是指2020年在美国伊利诺伊州发生的集体诉讼案件，强调企业在使用人工智能技术处理用户数据时，应尊重用户肖像权、个人隐私并遵守相关法律法规。相关案件中，Facebook因未经用户同意收集和存储面部识别数据并使用进行算法训练，最终同意支付6.5亿美元的赔偿。Google因在未经适当通知和同意的情况下收集和存储个人生物识别数据而支付了1亿美元进行和解。Microsoft则因在未经授权的情况下使用用户上传的照片来训练其面部识别技术被认定违反了BIPA，法院支持了原告的不当得利损害赔偿请求。而Amazon则被指控通过其照片识别服务收集生物特征数据，但未向用户提供相关信息，并且法院支持了原告基于BIPA的不当得利损害赔偿请求。 互联网巨头在使用人工智能技术处理用户数据时，触犯BIPA引发集体诉讼，需承担损害赔偿责任。 案例2：Replika被意大利政府机构宣布限制使用 2023年2月，意大利数据保护机构发布了一项紧急命令，禁止由美国公司LukaInc.开发的人工智能聊天虚拟人Replika处理意大利用户的个人数据。原因是Replika违反了欧盟通用数据保护条例中规定的透明度原则和义务，在收集和使用个人信息时，没有征得用户的同意，也没有设置相关隐私政策和安全措施对用户数据进行保护。 聊天虚拟人收集和使用个人信息没有有效的法律基础和适当的隐私政策，未征得用户同意且未设置安全措施保护。 案例3：凯兰德·杨诉NeoCortext公司案 2023年4月3日，美国演员凯兰德·杨（KylandYoung）在美国加利福尼亚中区联邦地区法院对NeoCortext公司提起诉讼，指控该公司的换脸应用Reface侵犯了加利福尼亚州的个人形象权。原告凯兰德·杨表示，NeoCortext公司在未经其同意的情况下擅自使用其肖像、图像、姓名和声音进行商业推广。他希望通过诉讼禁止NeoCortext公司将他的“姓名、声音、签名、照片或肖像用于商业目的”，并寻求金钱赔偿，同时要求认证拟议的集体诉讼。目前，此案仍在审理中。 “换脸”类应用程序未经允许擅自使用他人信息进行商业行为涉嫌侵权。 国内虚拟人相关厂商存在用户隐私协议不规范，个人隐私、数据易被泄露和滥用问题。 专栏2：国内案例 案例1：“AI换脸”App侵权案 2022年3月，上海某公司的“AI换脸”APP让用户支付会员费使用古风汉服模特楼某提供的“换脸”视频模板。用户只需上传个人照片，将视频模板中的人脸替换为自己的人脸，即可生成换脸后的古风造型视频。除了五官发生实质性变化外，其余内容与原视频保持一致。楼某认为该公司侵犯了她的肖像权，将其诉诸法院。2022年12月，法院判决支持楼某的诉讼请求，要求该公司停止侵权、赔礼道歉并赔偿损失。 AI换脸技术商用可能构成对个人隐私权的侵害。 案例2：“AI陪伴”软件侵害人格权案 2023年4月，公众人物何某将某款智能手机记账软件告上法庭。在该软件中，用户可以自行创设或添加“AI陪伴者”，设定“AI陪伴者”的名称、头像、与用户的关系、相互称谓等。何某认为，在其本人未同意的情况下，该软件中出现了以其姓名、肖像为标识的“AI陪伴者”，同时，该软件通过算法应用，将该角色开放给众多用户，允许用户上传大量关于其本人的“表情包”。法院对该案件进行受理，认为被告软件未经同意使用原告姓名、肖像，设定涉及原告人格自由和人格尊严的系统功能，构成对原告姓名权、肖像权、一般人格权的侵害，遂判决被告向原告赔礼道歉、赔偿损失。 虚拟人相关软件未经允许使用他人姓名和肖像生成“AI陪伴者”造成侵权。 2.内容合规所面临的风险 虚拟人的内容输入与模型训练阶段指工具开发者通过输入大量的文字、图像、视频、声音等（“训练素材”）对其模型进行训练，内容生成阶段系基于其上述模型的训练并根据使用者需求生成相应的创作内容。 在虚拟人的内容输入与模型训练阶段，存在非法使用训练素材及侵犯知识产权的风险。开发者需输入大量训练素材以供模型训练，训练素材的主要来源包括从资源方处批量购买、批量爬取互联网资源、通过开源网站获得资源等。在获取并使用相关训练素材时，开发者面临的内容合规问题，包括需要提前取