2024人工智能的法律探究报告

人工智能的法律探究 人工智能的法律探究 人工智能的法律探究 序言 /002 2022年底，以ChatGPT为代表的生成式人工智能（“GenerativeAI”）掀起了新一轮的科技革命，不断催生新的商务业态。当下人工智能的开发已经上升到国家战略的高度，它的应用正逐渐渗透到社会生活的各种领域中，包括交通运输、金融、医疗、制造业、文娱产业等。人工智能将给人类社会带来全方位的变革。然而，由此衍生的伦理与法律问题也接踵而至。 与此同时，各国监管部门纷纷出台相关政策法规，以对人工智能进行规制，内容涵盖 监管框架、透明度、可解释性、数据隐私、伦理原则、安全标准、知识产权等多个方面。无论是联合国于2024年3月通过的首个关于人工智能的全球决议，亦或是全世界28个国家及欧盟共同签署的《布莱切利宣言》、中国提出的《全球人工智能治理倡议》，以及欧盟的最新立法《欧盟人工智能法案》，其均在强调人工智能的治理应当重视安全风险，没有底线的运用人工智能会为人类社会带来毁灭性危机。 此前，中国生成式人工智能领域的首部专门立法——《生成式人工智能服务管理暂 行办法》已于2023年8月15日起正式生效实施，对生成式人工智能服务提供者和使用者提出了一系列合规要求。除了立法监管外，多国法院已开始处理涉及人工智能的法律纠纷。例如，中国北京互联网法院和广州互联网法院此前已分别就首例涉及人工智能生成物 （“AIGC”）的可版权性，以及生成式人工智能服务提供者的知识产权侵权案件作出判决。美国多家人工智能企业正面临数起集体诉讼纠纷，相关案件均已被美国法院受理。欧盟近期也诞生了涉AIGC可版权性问题的第一案。 金杜作为一家根植亚洲、服务世界的国际领先律师事务所，拥有广泛的资源和一支具 备跨学科背景的专业律师团队，也是中国最早从事人工智能法律实务的律师事务所之一。金杜人工智能团队实力雄厚，在人工智能投融资法律服务、人工智能知识产权保护、人工智能数据合规、人工智能争议解决等领域具有丰富的经验。我们曾多次为人工智能领域的上下游企业及相关公司提供咨询服务、相关协议起草修改、监管执法应对、诉讼和交易服 序言/003 务，并且能够根据客户的具体需求，设计和实施定制化的“一站式”人工智能问题解决方案，为客户的商业战略服务，帮助客户实现有利的商业结果。同时，金杜还与全球各地的合作伙伴建立了紧密的合作关系，能够为客户提供全球范围内人工智能方面的法律支持。在日新月异的技术发展图景中，金杜人工智能团队始终保持对前沿领域的观察研究，为人工智能从业者提供了最新的实用建议，多次受邀撰写涉及生成式人工智能、大模型及机器学习等领域的专业文章，获得了业界的高度肯定与赞扬。 本次发布的《人工智能的法律探究》，由金杜人工智能团队合力撰写，汇集了团队过 去公开发表的文章，凝结了团队在人工智能领域的专业知识和丰富经验，旨在为读者提供人工智能领域法律问题的有益参考与实务参照。本期刊分为政策解读、法律问题探究、案例分析、AI合规管理及境外的AI发展五大部分，涵盖了中美欧英多国人工智能立法解读、生成式人工智能训练数据合法性、AIGC的可版权性、AIGC知识产权侵权等热点问题，并且涉及教育、汽车、医疗、娱乐及金融等不同行业领域。除用中英双语解读国内外人工智能监管法规、剖析涉及人工智能的司法案例外，本期刊还分主题、分场景聚焦生成式人工智能服务提供者和使用者可能面临的科技伦理审查、知识产权、数据隐私及国家安全等风险和问题，并提出了针对性的防范措施。我们将以本期刊为起点，上下求索，精益求精，携手社会各界共同把握人工智能时代的新机遇。 2024年4月 宋海燕 金杜国际合伙人 目录 序言/002 AI政策解读 TheLatestDraftMeasuresontheManagementofGenerativeAI/007China'sFirstRegulationontheManagementofGenerativeAI/013“卧看星河尽意明”——全球首部生成式人工智能法规解读/016 《生成式人工智能服务安全基本要求》要点解析/032 《生成式人工智能服务安全基本要求》实务解析/050 AI法律实务 AI-GeneratedContentandCopyright(China)/062 AI原生应用相关法律问题研究之一：AI+教育法律问题/079 AI原生应用相关法律问题研究之二：AI+医疗/091 AI原生应用相关法律问题研究之三：AI+游戏法律问题/103 AI原生应用相关法律问题研究之四：AI+虚拟数字人的法律问题/111 相由AI生：浅谈深度伪造（Deepfake）与个人形象权/118 论图片生成式AIGC平台在侵权纠纷中的角色与责任边界/125 简析AI绘画著作权风险及规制建议/130 AIGC：合规引领探索之路/137 “侵权包赔”：AIGC知识产权赔偿条款之对比分析/148 Sora或者ChatGPT：AI生成的内容究竟归谁/153 ChatGPT许可应用，知识产权和数据怎么看？/164 浅析ChatGPT训练数据之合理使用/174 谈AIGC的可版权性——美国、欧盟、英国与中国之比较/183 再论AIGC的可版权性——中美司法实践剖析与比较/192 AI案例评析 TheFirstDigitalAvatarCaseinChina/201生成式人工智能时代下：析美国联邦最高法院Goldsmith案中的合理使用新标准/205China'sFirstCaseonCopyrightabilityofAI-GeneratedPicture/212China'sFirstCaseonAIGCOutputInfringement—Ultraman/217 AI合规管理 千帆竞发，百舸争流——AI大模型在汽车行业应用合规风险管理/223 大模型合规之现实初探/234 大模型（LargeModels）时代下资本市场赋能AI企业发展——人工智能产业链 企业境内A股上市重点法律问题之实证分析/250 人工智能（AI）：科技伦理治理走起/265 科技伦理（审查）委员会：如何设立？/277 AI安全与合规：维护国家安全的新疆域/285 境内平台使用ChatGPT？至少注意这些/306 AI赋能零售——创新中的合规风险管理/311 境外的AI发展 天下事预则立，不预则废——香港私隐公署开展人工智能合规检查，明确AI发展 指引和提升产业信心/319 从美国商务部云计算管控新规看美国AI监管新趋势全球人工智能治理大变局之 欧盟人工智能治理监管框架评述及启示/335 路未央，花已遍芳——欧盟《人工智能法案》主要监管及激励措施评述/374历时三年，欧盟《人工智能法案》通过欧洲议会表决/404 AI政策解读 TheLatestDraftMeasuresontheManagementofGenerativeAI 宋海燕陈佩龄 InresponsetotherapiddevelopmentofGenerativeAIservicesinthepastfewmonths,especiallythelaunchofChatGPTsincelastDecember,onApril11,2023,ChineseCyberspaceAdministrationissuedadraftpolicyMeasuresontheManagementofGenerativeArtificialIntelligenceServices("DraftAIPolicy"),solicitingfeedbackfromthegeneralpublicwithrespecttotheregulationandmanagementofGenerativeAIservices. TheDraftAIpolicyaddressedafewimportanttopicssurroundingAIandAIGC,including(1)thedefinitionofGenerativeAIandtowhatextendthisDraftAIPolicyshouldapply;(2)whethertextanddatamining("TDM")mightconstitutecopyrightinfringementintrainingAI;(3)misinformationrisksassociatedwithAIGC;(4)dataprivacyissue;andlastbutnotleast(5)securityevaluationofAIserviceprovideranditsfilingprocedureetc. I.GenerativeAIandtheScopeofthisDraftAIPolicy Tostartwith,"GenerativeAI"isdefinedintheDraftAIPolicyasatechnologythatgeneratestext,images,sound,video,codesandothercontentsbasedonalgorithms,models,andrules. Article2oftheDraftAIPolicystipulatesthat,regardlesswhetheraGenerativeAIserviceorproductisdevelopedorusedinChina,aslongasitistargetingatconsumerslocatedwithinChina,thatAIserviceorproductproviderwillbesubjecttotheDraftAIPolicy. II.TDMIssueTrainingAI UnliketheUK,EU,JapanorSingaporethatallowstextanddataminingexceptionintrainingAI,theDraftAIPolicyexplicitlystatesinArticle7that,theAIproduct/serviceprovidershallberesponsibleforthe"legalityofthesourceofpre-trainingandoptimizationtrainingdata",thusrequiringtheAIproduct/serviceprovidertoobtainclearancefromIPrightsholderspriortousingsuchcopyrightedworkstotrainAI.Giventhelimitedfewstatutorycategoriesof"fairuse"exceptionsinChineseCopyrightLawandthemixedresultsofcopyrightfairusecasesintherecentChinesecaselaw,theuseofcopyrightedworkstotrainAI(i.e.,TDM)stillfacesbigchallengesofcopyrightinfringementsuits. III.Misinformation ChineselegislatorsareapparentlywellawareoftherisksassociatedwithAIGC,intermsof potentialdiscriminationissue,misinformationandviolationofrightofpublicityetc.Specifically,theDraftAIPolicy(Articles4,7and12)requiresAIproduct/serviceproviderstoapply"technicalmeans"to"avoidthegenerationofillegalcontent,falseinformation,anddiscr