2024人工智能的法律探究报告

人 工 智 能 的 法 律 探 究 序 言 2022 年底，以 ChatGPT 为代表的生成式人工智能（“Generative AI”）掀起了新一轮的科技革命，不断催生新的商务业态。当下人工智能的开发已经上升到国家战略的高度，它的应用正逐渐渗透到社会生活的各种领域中，包括交通运输、金融、医疗、制造业、文娱产业等。人工智能将给人类社会带来全方位的变革。然而，由此衍生的伦理与法律问题也接踵而至。 与此同时，各国监管部门纷纷出台相关政策法规，以对人工智能进行规制，内容涵盖监管框架、透明度、可解释性、数据隐私、伦理原则、安全标准、知识产权等多个方面。无论是联合国于 2024 年 3 月通过的首个关于人工智能的全球决议，亦或是全世界 28 个国家及欧盟共同签署的《布莱切利宣言》、中国提出的《全球人工智能治理倡议》，以及欧盟的最新立法《欧盟人工智能法案》，其均在强调人工智能的治理应当重视安全风险，没有底线的运用人工智能会为人类社会带来毁灭性危机。 此前，中国生成式人工智能领域的首部专门立法——《生成式人工智能服务管理暂行办法》已于 2023 年 8 月 15 日起正式生效实施，对生成式人工智能服务提供者和使用者提出了一系列合规要求。除了立法监管外，多国法院已开始处理涉及人工智能的法律纠纷。例如，中国北京互联网法院和广州互联网法院此前已分别就首例涉及人工智能生成物（“AIGC”）的可版权性，以及生成式人工智能服务提供者的知识产权侵权案件作出判决。美国多家人工智能企业正面临数起集体诉讼纠纷，相关案件均已被美国法院受理。欧盟近期也诞生了涉 AIGC 可版权性问题的第一案。 金杜作为一家根植亚洲、服务世界的国际领先律师事务所，拥有广泛的资源和一支具备跨学科背景的专业律师团队，也是中国最早从事人工智能法律实务的律师事务所之一。金杜人工智能团队实力雄厚，在人工智能投融资法律服务、人工智能知识产权保护、人工智能数据合规、人工智能争议解决等领域具有丰富的经验。我们曾多次为人工智能领域的上下游企业及相关公司提供咨询服务、相关协议起草修改、监管执法应对、诉讼和交易服 务，并且能够根据客户的具体需求，设计和实施定制化的“一站式”人工智能问题解决方案，为客户的商业战略服务，帮助客户实现有利的商业结果。同时，金杜还与全球各地的合作伙伴建立了紧密的合作关系，能够为客户提供全球范围内人工智能方面的法律支持。在日新月异的技术发展图景中，金杜人工智能团队始终保持对前沿领域的观察研究，为人工智能从业者提供了最新的实用建议，多次受邀撰写涉及生成式人工智能、大模型及机器学习等领域的专业文章，获得了业界的高度肯定与赞扬。 本次发布的《人工智能的法律探究》，由金杜人工智能团队合力撰写，汇集了团队过去公开发表的文章，凝结了团队在人工智能领域的专业知识和丰富经验，旨在为读者提供人工智能领域法律问题的有益参考与实务参照。本期刊分为政策解读、法律问题探究、案例分析、AI 合规管理及境外的 AI 发展五大部分，涵盖了中美欧英多国人工智能立法解读、生成式人工智能训练数据合法性、AIGC 的可版权性、AIGC 知识产权侵权等热点问题，并且涉及教育、汽车、医疗、娱乐及金融等不同行业领域。除用中英双语解读国内外人工智能监管法规、剖析涉及人工智能的司法案例外，本期刊还分主题、分场景聚焦生成式人工智能服务提供者和使用者可能面临的科技伦理审查、知识产权、数据隐私及国家安全等风险和问题，并提出了针对性的防范措施。我们将以本期刊为起点，上下求索，精益求精，携手社会各界共同把握人工智能时代的新机遇。 2024 年 4 月 目录 序言/002 AI 政策解读 The Latest Draft Measures on the Management of Generative AI/007China's First Regulation on the Management of Generative AI/013“卧看星河尽意明”——全球首部生成式人工智能法规解读/016《生成式人工智能服务安全基本要求》要点解析/032《生成式人工智能服务安全基本要求》实务解析/050 AI 法律实务 AI-Generated Content and Copyright (China)/062AI原生应用相关法律问题研究之一：AI+教育法律问题/079AI原生应用相关法律问题研究之二：AI+医疗/091AI原生应用相关法律问题研究之三：AI+游戏法律问题/103AI原生应用相关法律问题研究之四：AI+虚拟数字人的法律问题/111相由AI生：浅谈深度伪造（Deepfake）与个人形象权/118论图片生成式AIGC平台在侵权纠纷中的角色与责任边界/125简析AI绘画著作权风险及规制建议/130AIGC：合规引领探索之路/137“侵权包赔”：AIGC知识产权赔偿条款之对比分析/148Sora或者ChatGPT：AI生成的内容究竟归谁/153ChatGPT许可应用，知识产权和数据怎么看？/164浅析 ChatGPT 训练数据之合理使用/174 谈AIGC的可版权性——美国、欧盟、英国与中国之比较/183 再论 AIGC 的可版权性——中美司法实践剖析与比较/192 AI 案例评析 The First Digital Avatar Case in China/201生成式人工智能时代下：析美国联邦最高法院Goldsmith案中的合理使用新标准/205China's First Case on Copyrightability of AI-Generated Picture/212China's First Case on AIGC Output Infringement—Ultraman/217 AI 合规管理 千帆竞发，百舸争流——AI大模型在汽车行业应用合规风险管理/223大模型合规之现实初探/234大模型（Large Models）时代下资本市场赋能AI企业发展——人工智能产业链企业境内 A股上市重点法律问题之实证分析/250人工智能（AI）：科技伦理治理走起/265科技伦理（审查）委员会：如何设立？/277AI 安全与合规：维护国家安全的新疆域/285境内平台使用ChatGPT？至少注意这些/306AI赋能零售——创新中的合规风险管理/311 境外的 AI 发展 天下事预则立，不预则废——香港私隐公署开展人工智能合规检查，明确AI发展指引和提升产业信心/319从美国商务部云计算管控新规看美国AI监管新趋势全球人工智能治理大变局之欧盟人工智能治理监管框架评述及启示/335路未央，花已遍芳——欧盟《人工智能法案》主要监管及激励措施评述/374历时三年，欧盟《人工智能法案》通过欧洲议会表决/404 A I 政 策 解 读 The Latest Draft Measures on the Management of Generative AI 宋海燕陈佩龄 In response to the rapid development of Generative AI services in the past few months, especiallythe launch of ChatGPT since last December, on April 11, 2023, Chinese Cyberspace Administrationissued a draft policy Measures on the Management of Generative Artificial Intelligence Services("Draft AI Policy"), soliciting feedback from the general public with respect to the regulation andmanagement of Generative AI services. The Draft AI policy addressed a few important topics surrounding AI and AIGC, including (1) thedefinition of Generative AI and to what extend this Draft AI Policy should apply; (2) whether textand data mining ("TDM") might constitute copyright infringement in training AI; (3) misinformationrisks associated with AIGC; (4) data privacy issue; and last but not least (5) security evaluation of AIservice provider and its filing procedure etc. I. Generative AI and the Scope of this Draft AI Policy To start with, "Generative AI" is defined in the Draft AI Policy as a technology that generates text,images, sound, video, codes and other contents based on algorithms, models, and rules. Article 2 of the Draft AI Policy stipulates that, regardless whether a Generative AI service or productis developed or used in China, as long as it is targeting at consumers located within China, that AIservice or product provider will be subject to the Draft AI Policy. II. TDM Issue Training AI Unlike the UK, EU, Japan or Singapore that allows text and data mining exception in training AI, theDraft AI Policy explicitly states in Article 7 that, the AI product/service provider shall be responsiblefor the "legality of the source of pre-training and optimization training data", thus requiring the AIproduct/service provider to obtain clearance from IP rights holders prior to using such copyrightedworks to train AI. Given the limited few statutory categories of "fair use" exceptions in ChineseCopyright Law and the mixed results of copyright fair use cases in the recent Chinese case law, theuse of copyrighted works to train AI (i.e., TDM) still faces big challenges of copyr