人工智能2.0：全景透视AIGC的法律挑战与合规路径

[人工智能2.0] 全景透视AIGC的 法律挑战与合规路径 LEGAL&ETHICALCHALLENGESOFAIGC ARTIFICIALINTELLIGENCE2.0: COMPREHENSIVEANALYSIS&KEYSTRATEGIES 法律总览丨AIGC的六大法律挑战 知识产权丨合理使用、可版权性与侵权责任域外观察丨欧美人工智能知产合规 ChatGPT 科技与法律 最新报告 数据合规丨网络安全、数据合规与跨境合规AIGC监管丨算法备案·安全评估·资质证照侵权责任丨反不正当竞争与侵权责任AI伦理丨伦理治理 目录 CNTENTS 前言 [第壹篇章] 法律问题概览 001 003 /01 当狂飙的“ChatGPT”遇上法律的缰绳 ——速览ChatGPT六大法律问题 004 [第贰篇章] 知识产权 017 /01 /02 /03 /04 全景透视生成式人工智能的法律挑战（一）：知识产权挑战与合规 以全球主流AIGC产品用户协议为例，梳理AIGC生成内容的权利归属与使用限制 人工智能企业知识产权管理实践探讨 涉美欧人工智能业务的知识产权合规要求变化趋势及应对建议 018 031 041 053 [第叁篇章] 数据合规 065 /01 /02 /03 /04 全景透视生成式人工智能的法律挑战（二）：数据合规挑战与路径 浅析人工智能系统训练数据的合规问题 透视AIGC产品的生命周期——数据与代码的授权合规AIGC数据跨境的法律监管和合规路径 066 084 095 110 目录 CNTENTS [第肆篇章] AIGC监管 123 /01 /02 /03 /04 /05 全景透视生成式AI的法律挑战（三）﹕监管合规挑战与应对 万紫千红待新雷﹕《生成式人工智能服务管理暂行办法》立法解读跨越AIGC产品合规上市之路（一）：算法备案 跨越AIGC产品合规上市之路（二）：资质证照 谨防“假作真时真亦假”——生成式人工智能的真实性问题及治理 124 134 143 152 165 [第伍篇章] 侵权责任 175 /01 /02 /03 机器学习作品的类型化及其著作权责任 人工智能时代涉数据、算法的新型不正当竞争行为及法律规制人工智能服务提供者的过错责任初探 176 189 207 [第陆篇章] AI伦理 /01生成式AI合规探讨系列——生成式AI伦理治理 /02人工智能生成内容的合规监管与伦理道德小议 218 219 232 附录 生成式人工智能（AIGC）合规检查清单 247 248 前言 PREFAE PREFACE PAGE001 在这个日新月异、充满挑战与机遇的时代，人工智能已经深入到我们生活的各个角落。从聊天机器人的智慧对话，到艺术作品的创作灵感，再到企业决策的精准预测，AIGC正在以前所未有的方式改变着我们的世界。然而，随着AIGC的飞速发展，一系列知识产权、数据合规、政府监管、侵权责任和伦理等问题也随之涌现，给合规能力带来了严峻挑战。 例如，当“ChatGPT”这样的AI技术遇上法律的缰绳，会激发出怎样的火花？当AIGC的生成内容涉及到知识产权侵权，企业又该如何应对？当AIGC涉及数据跨境，企业又该如何保证其合规性？ 在这本文集中，我们将从AIGC的法律问题概览出发，探讨知识产权的挑战与合规，透视数据合规的问题与合规路径，研究AIGC的监管合规挑战与应对，理解侵权责任的新形态及法律规制，思考AI伦理的问题与治理，并在最后奉上一份详尽的AIGC应用的合规指引清单。 在知识产权部分，我们将全景透视生成式人工智能在知识产权方面的挑战与合规；讨论AIGC生成内容的可版权性、权利归属与使用限制，以及侵权责任的承担；探讨涉美欧人工智能业务的知识产权合规要求、变化趋势及应对建议。 在数据合规部分，我们将以独特的方法论，分析人工智能生命周期的网 PAGE002 AINRTTEIFLILCIGIAELNCE2.0 PREFACE 络安全与数据合规风险，包括在模型开发训练、应用运行、模型优化等阶段，回应数据合规挑战，并探讨AIGC数据跨境的法律监管和合规路径。 在监管方面，我们在《生成式人工智能服务管理暂行办法》的基础上；对境内提供AIGC服务的主要监管框架进行梳理，包括算法监管、安全评估、内容监管、增值电信监管和科技伦理监管，并对焦点问题进行探析。此外，我们还将给出AIGC产品的合规上市之路，包括算法备案与安全评估、资质证照等方面的内容。 在法律责任方面，我们将讨论机器学习作品的类型化及其著作权侵权责任，以及涉数据、算法等技术的新型不正当竞争行为及法律规制。同时，我们还将探讨人工智能服务提供者的归责原则。 生成式AI可能会创造出令人不安的内容，或者侵犯个人隐私。我们应该如何处理这些问题？因此最后，在AI伦理方面，我们将针对AI伦理所涉及的法律进行梳理，讨论生成式AI伦理治理的原则和立场。 我们希望，这份文集能够帮助企业在AIGC的世界里游刃有余，避免“假作真时真亦假”的困境，让企业在创新的道路上更加从容自信。 在这个充满变革与机遇的时代，让我们一起探索AIGC的法律与伦理挑战，共同迈向更加美好的未来！ CHAPTER 01 法律问题 概览 01 CHAPTER 法律问题概览 遇上法律的缰绳 当狂飙的“ChatGPT” ⸺速览ChatGPT六大法律问题 ARTICLEBY 周洋徐颖蕾 2022年11月底，美国人工智能公司OpenAI推出人工智能聊天机器人ChatGPT。此后，ChatGPT在全球掀起一股热潮，国内外互联网巨头纷纷入局。微软先后推出由ChatGPT支持的搜索引擎Bing和浏览器Edge，并在Office办公软件中植入人工智能助手Microsoft365Copilot；谷歌发布了其AI聊天机器人“巴德”(“Bard”)，并宣布将生成式AI的功能导入Work-space；2023年8月31日，百度发布的首个“中国版ChatGPT”产品“文心一言”开放公众使用；9月13日，阿里版的ChatGPT产品“通义千问”向公众开放；9月21日，360宣布其人工智能产品“360智脑”全面接入360“全家桶”并向公众提供服务；京东于今年7月发布产业版ChatGPT“ChatJD”；网易有道于今年7月推出教育领域类ChatGPT产品“子曰”，并已于11月正式通过相关备案；其他知名科技企业的类ChatGPT产品也陆续落地。 那么，ChatGPT1的应用会面临哪些法律问题，其背后存在哪些法律风险？本文将从内容管理、电信资质、数据安全和隐私保护、知识产权、不正当竞争等维度对ChatGPT应用中带来的法律问题进行分析。 1.本文为探讨之目的，这里的ChatGPT泛指人工智能生成内容式的技术和产品，不限于OPENAI公司的产品及其中文版。 /PART001 如何对ChatGPT生成的内容进行管理？ ChatGPT提供的回答是以大规模的训练数据为基础的。ChatGPT从人们为它投喂的大量数据中学习并生成内容，而训练数据本身的错误、偏见、立场、意识形态和价值观都可能反映在ChatGPT生成的内容中。除了不当的训练数据，算法设计者主观认知偏见、算法设计过程中的技术漏洞，例如算法缺乏信息甄别和过滤机制，都可能影响ChatGPT生成内容的可靠性、正当性。因此，ChatGPT有可能输出不准确的信息，甚至可能输出违法违规或不当信息。一方面，法律、医疗等专业领域的错误答复可能使用户做出错误的判断和决策，从而危害人身和财产安全。另一方面，违法违规或不当信息的传播则可能对公共秩序带来严重后果。因此，如何对人工智能生成的内容进行管理，防止违法违规或不当信息的传播，是ChatGPT在应用中必须首先关注的问题。 根据《网络信息内容生态治理规定》，网络信息内容生产者不得制作、复制、发布含有反对宪法确定的基本原则、危害国家安全等内容的违法信息;且网络信息内容生产者应当采取措施，防范和抵制制作、复制、发布含有低俗、庸俗、媚俗、煽动人群歧视、地域歧视等内容的不良信息；同时，网络信息内容服务平台应当履行信息内容管理主体责任，建立网络信息内容生态治理机制，健全用户注册、账号管理、信息发布审核、跟帖评论审核、版面页面生态管理、实时巡查、应急处置和网络谣言、黑色产业链信息处置等制度。对于ChatGPT而言，其兼具内容生产者和内容服务平台的双重角色，因此，在内容管理措施上也需要同时考虑内容生产和平台管理两方面。 《互联网信息服务深度合成管理规定》就ChatGPT类深度合成服务的提供者如何加强内容管理提出了具体要求，包括：(1)“采取技术或者人工方式对深度合成服务使用者的输入数据和合成结果进行审核”；(2)“建立健全用于识别违法和不良信息的特征库，完善入库标准、规则和程序，记录并留存相关网 络日志”；(3)“发现违法和不良信息的，应当依法采取处置措施，保存有关记录，及时向网信部门和有关主管部门报告；对相关深度合成服务使用者依法依约采取警示、限制功能、暂停服务、关闭账号等处置措施”；(4)“建立健全辟谣机制，发现利用深度合成服务制作、复制、发布、传播虚假信息的，应当及时采取辟谣措施，保存有关记录，并向网信部门和有关主管部门报告”。 此外，如ChatGPT类产品涉及互联网新闻、网络出版、网络直播、网络视听节目、网络文化活动等服务的，还需遵守《互联网新闻信息服务管理规定》《网络出版服务管理规定》《互联网直播服务管理规定》《互联网视听节目服务管理规定》《互联网文化管理暂行规定》等互联网内容服务相关监管规定。 /PART002 提供ChatGPT服务是否需要电信资质？ 根据《中华人民共和国电信条例》，经营电信业务，需依法取得电信业务经营许可证。电信业务分类的具体划分由《电信业务分类目录》列出。此外，根据《互联网信息服务管理办法》，互联网信息服务分为经营性和非经营性两类。其中，“经营性互联网信息服务，是指通过互联网向上网用户有偿提供信息或者网页制作等服务活动”；而“非经营性互联网信息服务，是指通过互联网向上网用户无偿提供具有公开性、共享性信息的服务活动”。另外，“国家对经营性互联网信息服务实行许可制度；对非经营性互联网信息服务实行备案制度。” ChatGPT通过互联网向用户提供信息，属于互联网信息服务。而对于“经营性”和“非经营性”的判断，不宜简单以服务是否收费来判断有偿或是无偿。实践中，ChatGPT类产品不论是否收费，都具备经营属性，与科研、公益等非经营性活动有明显区分。因此，监管实践中，关于判断是否属于“经营性互 联网信息服务”，监管机关往往会以服务是否符合《电信业务分类目录》所列业务类别进行判定，从而判断是否需要电信许可。 根据《电信业务分类目录（2015年版）》，“B25信息服务业务”是指通过信息采集、开发、处理和信息平台的建设，通过公用通信网或互联网向用户提供信息服务的业务，主要包括信息发布平台和递送服务、信息搜索查询服务、信息社区平台服务、信息即时交互服务、信息保护和处理服务等。其中，“信息发布平台和递送服务”是指建立信息平台，为其他单位或个人用户发布文本、图片、音视频、应用软件等信息提供平台的服务。平台提供者可根据单位或个人用户需要向用户指定的终端、电子邮箱等递送、分发文本、图片、音视频、应用软件等信息。“信息搜索查询服务”是指通过公用通信网或互联网，采取信息收集与检索、数据组织与存储、分类索引、整理排序等方式，为用户提供网页信息、文本、图片、音视频等信息的检索查询服务。 ChatGPT通过对训练数据和用户输入对话的采集、处理以及平台 （ChatGPT与用户的交互界面）的建设，通过互联网向用户提供信息内容，符合“信息服务业务”的范畴。从具体的业务类别看，ChatGPT更接近“信息发布平台和递送服务”，而非“信息搜索查询服务”。ChatGPT提供的内容不是经检索与排序的原始信息，而是基于对用户对话的理解和训练数据的分析、编辑后生成的文本。可以理解为，ChatGPT根据用户的要求通过平台向用户提